Viện K đầu tiên ở Quán Sứ, đối diện đài tiếng nói Việt Nam (58 Quán Sứ). Viện K lúc đầu là nghiên cứu phóng xạ thời Pháp thuộc, do cái bà người Pháp gốc nước khác được giải Nobel vì phát hiện ra phóng xạ thành lập ra cái viện này. Viện này đến 1960s mới chuyển sang điều trị ung thư gọi là viện K. Trước đó điều trị ung thư thì ở Việt Đức và Bạch Mai.
Trước bệnh viện Bạch Mai là đường tàu hoả, bệnh nhân nào được chẩn đoán ung thư thì cứ đến đêm khoảng 9-10 h đêm tàu hoả chạy qua thì ra nằm vắt ngang mẹ nó qua 2 thanh ray đường tàu. Tuần éo nào trước cổng bệnh viện cũng nhầy nhụa 3 khúc (đúng hơn là 4 khúc vì có 2 khúc chân). Sau các bác sĩ đi buồng hội chẩn hay giảng cho sinh viên thì éo gọi là ung thư trước mặt bệnh nhân nữa, mà gọi là C big (C là viết tắt của Cancer, và quy ước C big là K, và bệnh án viết là K). Từ đó bệnh K ra đời. Cuối những năm 1960 thành lập bệnh viện điều trị ung thư (từ cơ sở của viện nghiên cứu phóng xạ) thì đặt tên là viện K.