故事还得从这块发掘于19世纪末的希腊雅典卫城，有着2700年历史的砖石画说起。看到图下方最右侧那位拿着圆环的大哥了吗？
这便是迄今为止，最早的体操——通过徒手或使用器械，锻炼人的姿态和肌肉力量、韧性、灵巧度，这就是体操（希腊语：γυμναστική，拉丁字母转写：gymnastikí̱，拉丁语：gymnastica，英语：gymnastics）的作用，而γυμναστική在希腊语里的意思是“赤身的运动”，这类运动，在公元前5至4世纪柏拉图的著作中已寻常可见。
没错，这里除了当年人类的衣物主要是麻制品，运动时容易撕破且不舒服外，还因为古代的希腊半岛是典型的又干又热的地中海气候，一年大部分时期艳阳高照，气温多在10至20摄氏度区间。
而体操由于涉及跑动、跳跃、攀爬、滚动等诸多动作，故参与者也更愿意了衣服进行——那时候，每逢奥运会的体操项目，都是男子参加，女生是禁止观看的。
公元前146年，罗马人征服希腊后，他们将体操列为正式运动，并在体育馆里进行战争训练。然而，随着罗马人在希腊的衰落，玩体操的人数大大减少，只有翻筋斗成为中世纪时，欧洲人的一种娱乐形式。
至于体操在近代的兴起，还得拜托这样一位医学博士，他就是16世纪意大利美尔库里亚利斯（1530至1606）。在1555年，也就是他25岁那年，便取得了医学博士。
32岁，也就是1562年，美尔库里亚里斯出使罗马，这使他有了大量机会接触古代资料，尤其是古代体育资料。
于是，在1569年，美尔库里亚里斯用拉丁语出版了体育专著《体操术》（De Art Gymnastica）。《体操术》全书共6卷，几乎搜集了古代希腊罗马所有的体育运动史料，详细阐述了古代体育的目的、任务、内容、原则、分类、方法以及各项运动的效果等。美尔库里亚利斯在《体操术》中指出体操术应能考查各项运动的医学效果，指导人们进行运动，从而维持健康，使身体获得最佳状态。他认为他的体操术是“医学体操术”而不是“竞技术操术”。他主张身心协调发展，抨击竞技的职业化。美尔库里亚利斯认为身体隶属于“灵魂”，为了有助于“灵魂”工作，身体应处于良好状态。他认为缺乏体操术的国家不能成为强国。因此他肯定军事体操术，主张一般市民通过身心锻炼成为军人，以便保卫祖国。
美尔库里亚里斯继承了古希腊科学家、哲学家亚里士多德还有古罗马医学家盖伦的思想，为体操做出了如下定义——体操术应考察所有运动的效果，并指导人们从事多项运动，从而维持健康，使身体保持最佳状态。
在《体操术》的启迪下，体操重新进入了欧洲各国的军事训练项目，与此同时，城乡居民也开始了系统性的体操锻炼。其中，体操对德意志的兴起，起到了至关重要的作用：1774年，博爱派教育家约翰·伯恩哈德·巴塞多（Johann Bernhard Basedow）开始在他的学校德绍萨克森的课程中加入体育锻炼和其他指导。这导致了这项运动的现代化，并使德国在这项运动中名列前茅。
同样来自德国的弗里德里希·路德维希·雅恩（Friedrich Ludwig Jahn）则被认为是现代体操之父，因为他在18世纪发明了侧杠、双杠、平衡木、单杠、鞍马和跳跃项目。
由于德国操普及率高，在冷热兵器混用的近代战争中，德军将士灵巧、强壮的优势得到了发挥，接连取得了普奥战争、普法战争的胜利，德国也迅速崛起为欧洲军事强国。
1800年，体操在德国和瑞典迅速发展。来自瑞典的Gret muth发明了一种体操，在这项运动中加入了优美而有节奏的动作。1811年，在柏林成立了Jahn Schools（雅恩学校）来推广这项运动，后来在欧洲和英国成立了许多俱乐部。Dudley Allen Sargent博士在南北战争期间将这项运动引入美国，他在几所大学教授这项运动。Dudley博士被授权开发了30多种用于游戏的物品。1880年，移居美国的欧洲移民也教美国人如何玩这项运动。此后，成立了Turnverein和sokols团体等俱乐部，当时体操运动员被称为turners。现代体操不包括举重和摔跤，但强调竞争。
1896年第一届现代奥运会在雅典举行，设立了鞍马、吊环、跳马、双杠和单杠项目，还有爬绳。但没有自由体操项目，也只有男子体赛。
在以后的奥运会上，体赛先后增设了火棒操（后改为轻器械体操）、瑞典式体操、欧洲式体操等体赛。1932年洛杉矶第10届奥运会上，增设了自由体操，使竞技体操初具规模。
1936年的柏林第十一届奥运会上，体赛才线项比赛；轻器械体操、瑞典式、欧洲式等体赛则从男子体赛中取消。这次奥运会还开设了女子体赛项目，但女子比赛项目的完善与定型是在1960年的第17届罗马奥运会才完成的。
而在中国，虽然舞蹈早在东周时期就已被《诗经》记载，西汉史学家毛苌在其整理的《诗经》序言中深情地叹道：“情动於中，而形於言，言之不足，故嗟叹之，嗟叹之不足，故咏歌之，咏歌之不足，不知足之蹈之，手之舞之也”，但整体而言，直到19世纪末，东亚体操都依然没和舞蹈分离，成为独立的体育运动。
直到1907年，由留日学生徐一冰、徐傅霖、王季鲁等人在上海创办了“中国体操学堂”，专门培育体育人才，体操这时才正式传入中国。从1908年开始招生，到1927年停办，中国体操学堂培养了大量杰出的早期体育专门人才，特别是为学校体育造就了数以千计的教学骨干。该校从1908到1927年近20年间，共毕业36届学生1531人。其中较有影响的毕业生有：上海东亚体育专科学校创办人傅球、庞醒跃；中国女子体育师范学校创办人华豪吾；上海中华武术会创办人吴志清；上海两江女子体育师范学校创办人陆礼华；杭州体育师范学校创办人蔡屈哉；广东体育专科学校创办人杨振峰；苏州中国体育学校（后改名中山体育专科学校）创办人朱重明；成烈体育专科学校创办人柳成烈；奉天体育学校创办人尚士元；上海童子军创始人顾拯来；学校体育三段教学法创始人王怀琪等。他们均是从中国体操学堂走出的佼佼者，可谓“桃李满天下”。
1949年后，随着体育运动被重视，体操在中国也迎来了新的发展时期。1951年，中华全国体育总会（筹备委员会）和中央广播事业局（今中国中央广播电视总台）共同决定，在中央人民广播电台和各地人民广播电台举办广播体操节目。第一套广播体操正式在全国铺开。
1954年至1955年，第一套少儿广播体操问世。这些及少儿体操都是体育工作者根据社会不同工种的劳动特点以及少年儿童特殊的生长阶段创编而成的，随着时间的推移，目前已有多套及少儿体操间世。截至2011年，中国共推出了九套广播体操，大大提升了公民的健康水平。
而在体赛上，中国各地市运会、省（区）运会、全运会皆有体操项目，裁判标准和项目内容俱居国际前列。截至2022年8月，中国培养的体操世界冠军名单计有：黄玉斌、李月久、李小平、李宁 、童非、楼云、许志强、李敬、李春阳、李小双、黄力平、国林耀、黄华东、李大双、范红斌、沈剑、张津京、范斌、、黄旭、卢裕富、肖俊峰、董震、杨威、邢傲伟、冯敬、陆斌、滕海滨、肖钦、陈一冰、梁富亮、邹凯、张宏涛、冯喆、严明勇、王冠寅、张成龙、吕博、郭伟阳、林超攀、程然、刘洋、尤浩、邓书弟、肖若腾、邹敬园、孙炜、张博恒、兰星宇、胡旭威（男子）；马燕红、樊迪、杨波、罗丽、莫慧兰、奎媛媛、毕文静、刘璇、凌洁、孙晓姣、范晔、程菲、张楠、李娅、周卓如、何宁、庞盼盼、何可欣、邓琳琳、眭禄、黄慧丹、姚金男、范忆琳、刘婷婷、韦筱圆（女子）。中国已成为继德、美、俄后又一体操强国。
回顾体操的历史，体操为人们带来了强健和欢乐，展望体操的未来，体操将继续为人类的力与美带来不可或缺的贡献。