1875年至1881年，德国库蒂乌斯人在奥林匹亚遗址发掘了出土文物，引起了全世界的兴趣。1889年7月，在法国巴黎召开的国际田径代表大会上，后来被人尊称为“奥林匹克之父”的法国教育家皮埃尔·德·顾拜旦（Pierre de Coubertin）首次公开了他恢复奥运会的设想。1891年1月，顾拜旦以法国田径协会联合会秘书长的身份，向全世界几乎每个体育组织和俱乐部发出邀请——参加于1894年6月在法国巴黎召开的国际体育运动代表大会。1894年6月16日，会议在巴黎索邦神学院如期召开。会议召开一个星期后，即6月23日，大会就通过了成立国际奥林匹克委员会的决议，而6月23日也就成了“国际奥林匹克日”（International Olympic Day）。当时，顾拜旦成为首任秘书长。大会决定在1896年召开首届现代奥运会，希腊的历史名城雅典获得主办权。

    1894年6月16日，巴黎国际会议上通过了第一部由顾拜旦倡议和制定的《奥林匹克宪章》。它涉及奥林匹克运动的基本宗旨、原则及其他有关事宜。1921年在瑞士洛桑奥林匹克会议中，制定了奥林匹克法，包括奥林匹克运动会宪章、国际奥林匹克委员会章程、奥林匹克运动会竞赛规则及议定书、奥林匹克运动会举行通则、奥林匹克议会规则等5部分。数十年来，奥林匹克法曾多次修改、补充，但由顾拜旦制定的基本原则和精神未变。
　　
    在第二届1900年巴黎奥运会上，有11名女子冲破禁令，出现在运动场上。国际奥委会经过数次争论，终于在1924年第22次会议上，正式通过允许女子参加奥林匹克运动会的决议。此后，女子项目成为奥运会不可缺少的组成部分，参赛的女运动员也越来越多。
　　
    随着奥林匹克运动的发展，国际奥委会还作出许多规定。

    1913年，根据顾拜旦的构思，国际奥委会设计了奥林匹克会旗，白底无边，中央有5个相互套连的圆环，环的颜色为天蓝、黄、黑、绿、红，五环象征5大洲的团结和全世界运动员以公正、坦率的比赛和友好精神在奥运会上相见。1914年为庆祝现代奥林匹克运动恢复20周年，在巴黎举行的奥林匹克大会上会旗首次使用。1920年安特卫普奥运会时，在运动场上升起第一面五环会旗，这以后历届奥运会开幕式上都有会旗交接仪式和升旗仪式。为了宣传奥林匹克精神、鼓励参赛运动员，由顾拜旦提议，1913年经国际奥委会批准，将“更快、更高、更强”作为奥林匹克格言。1908年伦敦奥运会举行时，在圣保罗大教堂举行奥运会的宗教仪式上，美国宾夕法尼亚州大主教在其布道词中说，奥运会“重要的是参与，不是胜利”，顾拜旦对这句话极为赞赏，以后多次引用，因此不少人认为，这句话应该成为奥林匹克理想。从1920年第七届奥运会开始实施运动员宣誓。1968年第19届奥运会又增加裁判员宣誓。1936年第11届奥运会时，国际奥委会正式规定，在主体会场点燃象征光明、友谊、团结的奥林匹克火焰。此后这一活动成为每届奥运会开幕式不可缺少的仪式之一。奥运会开始前，在奥林匹亚希腊女神赫拉（宙斯之妻）庙旁用凹面镜聚集阳光点燃火炬后，进行火炬接力，于奥运会开幕前一天到达举办城市。在开幕式上由东道国运动员接最后一棒点燃塔上火焰，闭幕式时火焰熄灭。