印度洋在我国古代被称为“西洋”，我们平常所说的明代大航海家郑和下西洋，指的就是印度洋。
在古希腊时期，著名地理学家、历史学家希罗多德（公元前484～425年）曾称之为“厄立特里亚海”，意为“红海”。初时指的可能就是现在的红海，以后穿过曼德海峡发现还有更大的海域，于是就用这个名称泛指整个印度洋。到古罗巴时期，印度洋被罗马人称为“鲁都姆海”，但这个名字只不过是希腊语“厄立特里亚”的意译，也是“红海”的意思。同一时期，印度洋还被人称为“南海”、“东海”等等。
直到15世纪末，葡萄牙著名航海家达伽马为了寻找通往印度的航线，绕过非洲南端的好望角进入这个大洋后，才开始使用印度洋这个名称。这个名称逐渐为人们所接受，成为通用的名称。