IBM có mặt ở thị trường VN từ rất sớm, với việc mở văn phòng đại diện ở HN năm 1994 và HCM năm 1995, thành lập công ty IBM 100% vốn nước ngoài tại VN năm 1996. Ngày 5/2/2007, IBM đã khai trương Trung tâm Dịch vụ Toàn cầu IBM (IBM Global Delivery Center) tại TP. HCM.
IBM từng là một ông vua tuyệt đối của công nghiệp máy tính dành cho doanh nghiệp (vì lúc bấy giờ người dùng bình thường không thể nào đủ tiền để trang bị 1 máy tính, giá có thể lên tới vài chục ngàn USD). Một câu chuyện bên lề về máy IBM: Hồi mình đi học mình được nghe thầy cô kể lại là hồi xưa, khoảng năm 60-70 các trường học lớn đều cho thi cử bằng hình thức trắc nghiệm, thí sinh chỉ được dùng 1 loại bút chì nào đó, làm bài thi xong, ban giám khảo đem bài thi về và cho máy IBM chấm điểm...