国际刑事法院的历史可以追溯到第一次世界大战结束之时。当时，《凡尔赛条约》试图设立一个刑事法庭审判德国皇帝威廉二世，但这一目标最终未能实现。第二次世界大战结束后，战胜国决定设立一个国际刑事法庭，即纽伦堡国际军事法庭，审判对纳粹大屠杀负有责任的人。他们还设立了远东国际军事法庭，以起诉和审判在日本犯下战争罪行的人。
这两个法庭都是临时性的。20世纪90年代，前南斯拉夫问题国际刑事法庭和卢旺达问题国际刑事法庭相继设立；然而，这两个法庭也都是特设的。因此，国际社会认识到有必要设立一个常设刑事法庭来审理明确界定的国际犯罪。随后，在1998年于罗马举行的联合国全权代表大会上，国际刑事法院获得批准，成为第一个根据其创始条约——《罗马规约》 ——对国际犯罪进行审理的常设法庭。
《罗马规约》强调的动机包括：
“回顾每个国家都有责任对应对国际罪行负责的人行使刑事管辖权，
重申《联合国宪章》的宗旨和原则，特别是各国应避免诉诸任何国家的领土完整或政治独立或以任何其他不相容的方式威胁或使用武力为了联合国的目的，
在这方面强调，不应将本规约中的任何内容理解为授权缔约国干预武装冲突局势或另一国的内政，
为了实现这些目标并为了子孙后代的利益，决定建立一个具有常设性质的国际刑事法院，该法院是独立的，并与对联合国最严重罪行具有管辖权的联合国系统有联系对整个国际社会的意义，
强调根据本规约设立的国际刑事法院
将补充国家刑事管辖权»
同样，《规约》第一条规定如下：
“据此设立了一个国际刑事法院（以下简称“法院”）。 法院将是一个常设机构，将有权根据本规约对具有国际重要性的最严重罪行对人行使管辖权，并将对国家刑事管辖权具有补充性。 法院的管辖权和运作应以本规约的规定为准。”