在征服了阿姆河以北的粟特人土地（索格底安那）之后，亚历山大掉头南下。公元前 327 年春末，马其顿军队向南翻越兴都库什山，向印度进发。在亚历山大看来，印度这个不大的半岛便是亚洲的东端，夺取了印度就等于占领了亚洲最后的土地。
公元前 6 至前 4 世纪是印度历史上的列国时代，是群雄割据，互争雄长的年代。据佛经记载，该时期的印度共有 16 个大国，分布在印度河和恒河流域。这里的炎热气候令马其顿人极度不适，军中瘟疫流行。更令入侵者感到恐惧的则是本地独特的兵种----战象
实际上，在高加米拉迎战大流士三世时，波斯人屈指可数的战象就给马其顿士兵带来了异乎寻常的恐慌情绪，以至于在开战前タ，亚历山大亲自祭祀神明，抚慰那些惊恐的土兵。公元前 326 年，在印度河的支流希达斯派斯河附近，土邦君主波鲁斯在“4 英里长的地段上排开他的 200 头大象，每头大象至少间隔 100 米，在两头象之间和象后面部署了步兵”。亚历山大手下平时训练有素的马匹看到战象的外形，听到战象的吼声、在远离战象的地方都会吓得跳到河里去。
在交战之中战象横冲直撞，马其顿步兵完全无法保持他们引以为傲的方阵阵型，值得庆幸的是印度由于炎热气候的关系难以培育出品种优良的骏马，他们的骑兵完全不是精锐的“伙伴骑兵”的对手，只能渐渐被挤压至战象周围。战象的践踏不分敌我，对印度军队杀伤更甚，最后，马其顿骑兵在远处投射标枪用“象追我退，象疲我打”的战术配合步兵彻底击溃了印度军队。亚历山大为了纪念这次特殊的战斗，发行了铸币和奖章，上面刻有骑着战马的亚历山大和乘坐战象的波鲁斯作战的图案。
马其顿军队虽然获胜，却死伤惨重，就连亚历山大的传奇战马也死在战场上。庞大的战象在马其顿人心中留下了巨大的阴影。当听说印度东北部的摩揭陀国（在今天的孟加拉国一带）拥有 8 万骑兵，20 万步兵尤其是 6000 战象时，便坚决拒绝跟随亚历山大向印度腹地进军，再去迎战更加庞大的战象群了。
世界帝国之梦
实际上，经过 8 年的征战，除了亚历山大自己，所有的马其顿人都厌倦了。国王所进行的事业，对他们来说，不过是“一个苦差事接着一个差事，冒完一次险又冒另一次险”。再多的战利品，再诱人的光荣，也不能吸引他们去冒险了。他们走得够远了，如果这样无休止地走下去，他们退早会送命的，会葬身在遥远的异域，成为国王野心的牺牲品。最终，就连亚历山大也无法忤逆全军厌战思归的意志。他只能怀着事业未竟的无限遗憾，率领子弟兵踏上返乡的归程。
亚历山大的军队分两路撤兵：一路取海道沿伊朗海岸入波斯湾；另一路由亚历山大亲自率领，从陆路经沙漠而归。军队进入茫茫无际的沙漠，酷热、无水、饥饿、疾病不新袭击着士兵，许多士兵因此而死亡，葬身于沙漠。古希腊史学家鲁塔克对此有所描写：“落伍者仅少数尚有余力，摸索军队踪迹前进，得以生还，其大部宛如失足大海，葬身荒沙。为了维持军队的士气，沿途曾举行各种娱乐和酒宴。”“沿途，士兵用高脚杯和科林斯杯酒桶中取酒，彼此祝饮…到处都看见酩酊大醉的妇人。存这个放浪形骸的流浪行列中，可以看见酒神节的一切放纵。仿佛酒神自己也参与这个行列……”
即使这些娱乐和酒宴也无法消除士兵的沮丧不满情绪，他们有的私吃军粮，有的私杀马匹，亚历山大无可奈何，只好装聋作哑。公元前 325 年，所剩不多的海陆两路军队终于班师巴比伦。
对于亚历山大在中亚与印度的军事行动，一些西方史家的看法倒是与中华帝国的儒臣们对于领土扩张的态度差不多：“得其地不足以为广，有其众不足以为强。”既然不可能把文明形态大相径庭的被征服民族“捏合成一个新政治单位”，征服的地区再大再多，有何意义呢？一些人就认为这纯属得不偿失。
古罗马史家李维颇有些庆幸地感叹：如果亚历山大转身西进而非东进，他所取得的成就简直难以想象（那样的话历史上就没有罗马什么事了）。
法国历史学家布罗代尔的妙笔倒是提供了一个模棱两可的解释：他一方面说，“亚历山大大帝的过失在于过低估计了西方的能量，只顾一股脑儿地奔向那垂涎已久的辉煌”；另一方面又说，当时的希腊人面临向东或向西扩张两种选择，但向东“更具有诱惑力”，毕竟，当时的地中海西部尚未让希腊人看到“文明”的分量。不管怎样，东征客观上打破了东西方壁垒，使古老的东方文明和充满活力的希腊文明相互碰撞、交融，缩造了一个新的时代，这就是历史上的“希腊化时代”。
无论如何，亚历山大只有 32 岁，他似乎有着足够的时间继续他的征服事业。经过将近十年的征战，他已经把欧洲、亚洲和非洲的土地连成一片，势力达到当时西方人已知世界的边缘。从世界上出现人群到形成国家及以后的 3000 多年间，还从来没有过这样一个庞大的国家：西起希腊、马其顿，东到印度河流域，南到埃及第一瀑布，北到多瑙河南岸和中亚细亚。
回到巴比伦之后，亚历山大又下令在波斯湾口兴建了一些城市，还制订了波斯湾沿岸殖民化的计划。尤为重要的是他计划勘明阿拉伯半岛的大小，还要开创通往埃及的航路。上述任务完成后就要进行另一次探险，或者按更现实的说法叫作“征服”。希腊化时代晚期的狄俄多儒斯记载，亚历山大的进一步征服计划赫然包括迦太基、意大利和西西里，但“有多大可信度也很难说”。不过，根据亚历山大的性格，只要可能，他是肯定不会让希腊人熟悉的西地中海地区独立于他的帝国之外的。
可惜天不假年。公元前 323 年 6 月中旬的一天，亚历山大国王崩陨，年仅 33 岁。他是在晚上去世的，没有留下什么遗嘱。他走得太仓促了，没有来得及安排身后事宜。他留下一个百废待兴的草创帝国、一位尚未出世的遗腹子、一次尚未成行的远征，在他生命年华的盛期带着事业未竟的无限遗恨离去了。亚历山大的死使军队既惊且骇。诸将领开始争权夺权，特别是争要遗体。为此这位伟大征服者的葬礼在整整一年之后才得以举行，并安葬在以他自己名字命名的埃及亚历山大城。