Tổng công ty Kim khí được thành lập vào những năm đầu của thập kỷ 70 thế kỷ trước với nhiệm vụ tiếp nhận và cung ứng vật tư kim khí trong toàn quốc. Do chuyển đổi mô hình quản lý, vào những năm 80 của thế kỷ XX, Nhà nước đã giải thể Tổng công ty để thành lập các Xí nghiệp liên hiệp thuộc Bộ Vật tư. Năm 1985, thực hiện chủ trương của Chính phủ về tổ chức kinh doanh cung ứng vật tư theo Nghị định số 204-HĐBT ngày 11/7/1985, Bộ Vật tư có Quyết định số 422/VT-QĐ ngày 13/9/1985 thành lập Tổng công ty Kim khí trực thuộc Bộ Vật tư. Cuối năm 1990, Công ty Vật tư Thứ liệu Trung ương thuộc Bộ Vật tư được sáp nhập vào Tổng công ty Kim khí theo Quyết định số 1278 TN/TCCB của Bộ Thương nghiệp. Tổng công ty Kim khí là tổ chức quản lý kinh doanh ngành hàng kim khí của cả nước, hoạt động theo chế độ hạch toán kinh tế, có trụ sở đặt tại số 55B, phố Hàng Cót, quận Hoàn Kiếm, Hà Nội.
Ngày 30/5/1990, Bộ Công nghiệp nặng có Quyết định số 128/CNNg-TC thành lập Tổng công ty Thép trên cơ sở tổ chức, sắp xếp các đơn vị khai thác, tuyển luyện các loại khoáng sản kim loại đen và các đơn vị nghiên cứu, đào tạo, dịch vụ về lĩnh vực luyện kim đen thuộc Bộ Công nghiệp nặng, trụ sở đặt tạm thời tại số 6- phố Phạm Ngũ Lão, Hoàn Kiếm, Hà Nội.
Ngày 10/11/1993, Thủ tướng Chính phủ có Quyết định số 549/TTg chuyển Tổng công ty Kim khí từ Bộ Thương mại về Bộ Công nghiệp nặng quản lý từ ngày 01 tháng 01 năm 1994, đến ngày 04 tháng 7 năm 1994 hợp nhất với Tổng công ty Thép thành Tổng công ty Thép Việt Nam.
Trên cơ sở đó, ngày 29 tháng 4 năm 1995, Thủ tướng Chính phủ ký Quyết định số 255/TTg thành lập Tổng công ty Thép Việt Nam. Tên giao dịch quốc tế là VIETNAM STEEL CORPORATION, viết tắt là VSC, trụ sở chính đặt tại D2, phố Tôn Thất Tùng, Đống Đa, Hà Nội. Đến năm 1997 Tổng công ty chuyển trụ sở số 91, phố Láng Hạ, Đống Đa, Hà Nội.
Tổng công ty Thép Việt Nam là một trong 17 Tổng công ty 91 được Thủ tướng Chính phủ thành lập và hoạt động theo mô hình Tổng công ty Nhà nước quy định tại Luật doanh nghiệp Nhà nước năm 1995. Mục tiêu của Tổng công ty Thép Việt
Theo quyết định thành lập, Tổng công ty Thép Việt Nam hoạt động kinh doanh chủ yếu trên các lĩnh vực như khai thác quặng sắt, than mỡ, nguyên liệu trợ dung; sản xuất gang, thép và các kim loại, sản phẩm thép; xuất nhập khẩu thép, vật tư thiết bị và trang thiết bị luyện kim, chuyển giao công nghệ và hỗ trợ kỹ thuật; thiết kế, chế tạo, thi công xây lắp trang thiết bị công trình luyện kim và xây dựng dân dụng; kinh doanh khách sạn, nhà hàng và vật tư tổng hợp; đào tạo nghề, nghiên cứu khoa học công nghệ; đầu tư, liên doanh, liên kết kinh tế và hợp tác lao động với nước ngoài.
Ngày thành lập Tổng công ty theo mô hình Tổng công ty 91 (29/4 hàng năm) được Hội đồng quản trị Tổng công ty chọn làm ngày kỷ niệm thành lập Tổng công ty Thép Việt