Địa điểm hiện nay của Đại sứ quán trên phố Trần Hưng Đạo nằm trong khuôn viên một công trình tiêu biểu ở thành phố Hà Nội, chỉ cách trung tâm Hà Nội là hồ Hoàn Kiếm khoảng một cây số. Đây là một tòa nhà di sản và con phố nó nằm trên được đặt tên Trần Hưng Đạo – một trong những danh tướng vĩ đại nhất trong lịch sử quân sự Việt Nam. Ông là người đã hai lần đánh tan quân xâm lược vào cuối thế kỷ 13.
Ban đầu, địa điểm này được thuê để đặt tòa Tổng Lãnh sự Ấn Độ vào mùa hè năm 1959. Kể từ đó đến nay, địa điểm này đã chứng kiến nhiều thay đổi, gồm cả việc nâng cấp lên Đại sứ quán vào năm 1972.
Các công trình bên trong khuôn viên được xây dựng khoảng 70 năm trước, vào nửa đầu thế kỷ 20. Đến nay, các công trình đã trải qua một số lần trùng tu, lần lớn nhất vào năm 1996-97. Sau khi trùng tu hoàn toàn vào năm 1997, khu nhà có một phòng họp đa năng kiêm thính phòng, đặt theo tên của Chủ tịch Hồ Chí Minh và Thủ tướng Jawaharlal Nehru và được cố Thủ tướng Phạm Văn Đồng cắt băng khánh thành. Đại sứ quán nằm trong hai tòa nhà ở hai bên cánh của Phòng họp đa năng trên cùng khuôn viên.