阿贝尔奖是挪威政府纪念数学家阿贝尔设立的，这位数学天才生前甚为潦倒，但具有令人惊叹的数学天赋，发明的以自身命名的概念、定理就多达二十多个。尼尔斯·亨里克·阿贝尔于1802年出生于挪威东南部的一个偏僻小港内兹特兰。1814年，阿贝尔来到新独立的挪威首都克里斯蒂安尼亚（现在的奥斯陆），就读于教会学校。幸运的是，在1818年，他遇到了一位良师益友——数学老师霍姆伯。
霍姆伯发现了阿贝尔的数学天赋，并开始在课下给阿贝尔开小灶。阿贝尔很快就超过了他的老师。但不久他的父亲去世，阿贝尔的家庭跌落到贫困的境地。在霍姆伯和几名教授慷慨解囊下，阿贝尔才有机会升入皇家弗里德里克大学。这时，阿贝尔开始探索此前250年里困扰许多大数学家的五次方程的求解问题，他提出了一个求解公式，但在挪威既没人能看懂他的论文，也无处发表。汉斯廷教授把论文寄给当时北欧首屈一指的丹麦数学家德根。
德根建议阿贝尔为他的晦涩的证明找一些具体范例，并劝阿贝尔把研究方向从五次方程这个狭窄的领域转向当时日渐兴起的椭圆函数。阿贝尔理解了德根指点中的表面含义，其回报就是在他计算范例时，发现之前的证明里存在严重错误。这次他转换视角，于1823年成功地证明了一般五次方程不存在统一的根式解。但在深层次上，阿贝尔似乎还没有理解德根的处世智慧，这同时也有经济上的原因。
阿贝尔以法语把这篇杰出的论文自费出版，出于节约经费的考虑，他把篇幅压缩成6页，伴随而来的是论文越发深奥难懂。阿贝尔把论文寄给高斯等大数学家，希望这能成为获得大师赏识的科学护照。但事实上高斯去世后，人们整理他的遗物时发现，阿贝尔寄给他的小册子甚至都没有拆开。不久，在奥斯陆大学教授们的再三敦请下，姗姗来迟的挪威政府资助使阿贝尔得以出国深造。这时，他羞涩、害怕孤独的性格又或多或少妨碍了他的发展。
原本阿贝尔出国的计划是先到哥廷根拜访高斯，再到当时数学研究的中心巴黎。但一起出国的另几名同学要取道柏林到阿尔卑斯山区考察地质，阿贝尔决定和他们同行，顺便增长些见识。于是在柏林待了4个月后，阿贝尔又经莱比锡、德累斯顿、布拉格、维也纳和威尼斯，从瑞士绕一大圈到达巴黎。诚然，在这将近1年的时间中，阿贝尔极为勤奋和多产，探讨了椭圆函数领域的诸多基本问题。
同时他结识了工程师、业余数学家克雷勒，克雷勒是期刊《纯粹和应用数学杂志》的创办者，他坦承看不懂阿贝尔的论文，但倾慕于阿贝尔的才华，于是克雷勒的期刊上大量发表阿贝尔的论文。但同时阿贝尔也放弃了拜访高斯的机会，并且在旅行中耗费了不少时间和经费，从后来他的遭遇来看，这几乎是致命的。1826年7月，阿贝尔终于抵达巴黎，但这时他的运气已经不济。
阿贝尔获得的接待是礼貌而被敷衍的，而他又不擅长把学术思想在陌生人面前宣讲，因此主要寄望于把之前压箱底的最精华的成果提交给法国科学院，毕其功于一役。经过精心准备，这篇论文于1826年10月底提交，提出了比之前椭圆函数和椭圆积分更广泛的阿贝尔函数和阿贝尔积分，同时证明了阿贝尔大定理。科学院把论文交给柯西审阅。
起初阿贝尔昂首以待，认为他的论文很快就能在科学院例会上宣读，但实际上正值创造高峰期的柯西忙于自己的研究，无暇审读这篇他认为难懂的论文。阿贝尔在苦等的同时，日常生活也很不如意，房东索取的房租高昂但供给的饮食却很差。阿贝尔不久就发烧咳嗽起来，随后被诊断为肺结核，这在当时无异于下了死亡通知书。阿贝尔在巴黎蹉跎到年底，科学院那边仍杳无音信，无奈之下他拖着病躯回到柏林。
因思乡心切，阿贝尔谢绝了克雷勒延聘其出任期刊编辑的邀请，想把所学献给祖国。于是在等到霍姆伯寄来的返程旅费后，他于1827年5月回到挪威，克雷勒则继续为他寻找稳定的教职。回到挪威的阿贝尔在生命的最后一年半里，在代数方程、椭圆函数和无穷级数等领域完成了数量令人惊叹的论著，克雷勒为他发表论文的速度远远赶不上一篇又一篇的投稿速度。
阿贝尔的论文逐渐引起欧洲学界主流的关注，但此时他的健康状况开始不允许继续疯狂工作。1828年圣诞节后，阿贝尔的病情急剧恶化。在弥留之际，他仍惦记着以为丢失的巴黎论文，挣扎着写了一篇两三页的短文，重新概括出巴黎论文中的主要思想。1829年4月6日，阿贝尔病逝。在阿贝尔去世后两天，好消息开始从巴黎和柏林传来。来自巴黎的消息说阿贝尔的论文被重新找到了。
另一名青年数学家雅各比也从事椭圆函数理论研究，他被告知有一名年轻人已经先他一步。雅各比读完阿贝尔的论文，气愤地抗议科学院对阿贝尔重要发现的忽略。对此，法国科学院不无尴尬地回应说阿贝尔的论文是用几近白色的墨水写的，而且文法也很糟糕，科学院还想让阿贝尔重新提交一份呢。不过法国科学院最终决定为阿贝尔颁发一个奖项，这笔奖金于次年到达他母亲手中。
柏林方面，克莱勒高兴地写信给阿贝尔，告知他终于获得了一个永久的职位。但是这一切都太晚了。阿贝尔奖的设立很难想象，假如阿贝尔的生命不那么短暂，他还会做出多少新的贡献。法国科学院希望看到阿贝尔文集的出版，但奇怪的是，阿贝尔的巴黎论文短暂露面后，又再次遗失了。因此它没有被收录于霍姆伯1839年整理出版的阿贝尔文集中，而是在1841年首次公开发表，并收入1881年西罗和索菲斯·李评注的两卷本阿贝尔全集中。
时光飞逝，1902年，为纪念阿贝尔诞辰100周年，人们提出三项计划，其中一项是要创立一个国际纪念奖项。但这项计划却颇费了一番周折。阿贝尔全集的编辑者之一索菲斯·李本人也是成就卓著的数学家，当他得知诺贝尔奖不包含数学奖后，就把推动设立阿贝尔奖作为晚年的一项主要活动。他利用自己的声望和人脉寻求支持。
到1898年他已得到欧洲大多数数学研究机构的承诺，共同出资成立一项基金以奖励杰出的纯粹数学研究，每5年颁发一次。然而大多数承诺和协议都是向索菲斯·李个人做出的，李于1899年去世后，设立奖项的进程就陷于停滞。当时，挪威和瑞典仍是联合国家，国王奥斯卡二世热情地支持并参与了纪念阿贝尔的活动，对设立纪念奖也很感兴趣。他在1902年的庆典上宣布，将制作刻有阿贝尔名字的金质奖章并颁发给一流的数学研究者。
克里斯蒂安尼亚科学协会起草了评选章程。然而1905年6月，挪威-瑞典联盟解体，挪威政府无力单独承担阿贝尔奖的开销，设立阿贝尔奖的第一次努力宣告结束。阿贝尔长期被视为挪威的民族英雄人物，他的形象出现在邮票、纸币上，在挪威尽人皆知。2000年国际数学年的系列活动，阿贝尔又成为挪威数学的标志性人物。人们开始再次推动设立国际性的阿贝尔奖。
2001年8月，挪威政府宣布为纪念2002年的阿贝尔诞辰200周年，将拨款2亿挪威克朗（当时约合4255万美元）作为阿贝尔基金会的启动资金，向杰出数学家颁发阿贝尔奖。2003年6月，奖金首次正式颁发给了法国数学家让-皮埃尔·塞尔。2005年，为纪念阿贝尔的伯乐霍姆伯，阿贝尔基金会设立了颁发给数学教师的霍姆伯奖。阿贝尔奖可以看作是“终身成就奖中的终身成就奖”。
获奖者年龄普遍偏大，而且大多早已荣誉满身。自2003年以来，37名获奖者平均获奖年龄为76.25岁。2015年的两名获奖者约翰·纳什和路易·尼伦伯格更是刷新年龄纪录，分别是87岁和90岁（纳什在领奖归途中遭遇车祸，成为所有获奖者中唯一身故的数学家）。