文章通过记叙对石钟山得名由来的探究，强调要正确判断一件事物，必须要深入实际，认真调查。在艺术上，此文具有结构独特、行文曲折、修饰巧妙、语言灵活等特色。
第一段提出石钟山得名由来的两种说法，以及对这两种说法的怀疑。可以分为三层。
第一层，引《水经》上的话，交代石钟山的处所，紧扣题目，点出石钟山，引起下文。
第二层，提出郦道元对石钟山得名由来的说法，点明人们对此说法的怀疑态度，用钟磬置水中不能发声的情况对郦说质疑，说明“水石相搏”之说难以取信于人。正因为对郦说“人常疑之”，才引起后人的异议，这就由郦道元的说法导出唐人李渤的说法。
第三层，提出李渤的说法并质疑。李渤也在“人常疑之”的“人”之列，于是就有他“访其遗踪”的行动。他亲“访”遗踪，亲“扣”其石，亲“聆”其声，理应无疑。作者表明自己对李渤的怀疑，并以处处有石，石石能扣而发声，反驳李说，说明扣石发声之说难以置信。对这两种说法，看起来是相提并论的，但实际上是有先有后，有主有次的。对两说的分别怀疑，提法上也有所不同：用“人常疑之”，说明人们对郦说的疑惑，这里的“人”是否包括作者，没有明说，这是一种客观记叙，作者没有轻率地判断郦说的是非；用“余尤疑之”，强调自己对李说的否定，这里的“余”字，就明确地表示了作者对李说的态度。对郦说“人常疑之”和对李说“余尤疑之”，这两疑引出作者探访石钟山的行动，为第二段的“固笑而不信”和夜游石钟山，以及结尾的一“叹”一“笑”，一“简”一“陋”作铺垫。
第二段记叙实地考察石钟山，得以探明其名由来的经过。
可以分为三层。第一层（“元丰七年······得观所谓石钟者”），点明探访石钟山的时间、同行者和缘由。因为对石钟山得名由来已存“疑”念，所以作者乘自己赴任临汝并送长子苏迈赴任饶州德兴之便，顺道考察石钟山，正好借此释疑。这一层紧承上文。
第二层（“寺僧使小童持斧······余固笑而不信也”），写访问寺僧。寺僧“使小童持斧”扣石发声，表明他们相信李渤的说法，也说明李渤的说法影响很大。这一段回应李说，“择其一二而扣之”，“因笑而不信”，分别照应第一段的“扣而聆之”，“余尤疑之”。寺僧的做法既然不能使人满意，就有了作者下面月夜考察的行动。
第三层（“至莫夜月明······古之人不余欺也”），写月夜考察游石钟山的经过。先交代探访石钟山的时间是“莫夜月明”时分，同游者是长子苏迈，方式是“乘小舟”，地点是“绝壁下”。然后写绝壁下的情景：看见的是“侧立千尺，如猛兽奇鬼，森然欲搏人”的大石；听到的是“云霄间”鹘鸟的“磔磔”的惊叫声，以及“山谷中”鹳鹤像老人边咳边笑的怪叫声。描绘出一幅阴森可怖冷清凄厉的石钟山夜景，有远有近，有高有低，有动有静，有形有声，十分逼真，使人有身临其境之感。这段描写着力渲染阴森可怖的环境气氛，烘托出亲身探访的不易，为下文批评“士大夫终不肯以小舟夜泊绝壁之下”伏笔。转而写作者在“心动欲还”的时候，忽然“大声发于水上，噌吰如钟鼓不绝”，使“舟人大恐”，而作者却被吸引了。他“徐而察之”，发现“山下皆石穴罅，不知其浅深，微波入焉，涵淡澎湃而为此也”，查明了发出“噌吰”之声的原因。但事情并未到此为止，下面又起波澜。作者在“舟回至两山间”的时候，发现入港处有“大石当中流······空中而多窍，与风声相吞吐，有窾坎镗鞳之声”。这里的“回”不是“返回”的意思，而是“掉转”的意思。“舟回至两山间”，不是船返回到两山中间，而是船掉头转行至两山之间。作者对两处声音的考察，极为细致深入，处处印证了首段的郦说：“微波入焉”和“与风水相吞吐”，分别照应“微风鼓浪”；“山下皆石穴罅······涵淡澎湃而为此也”和“大石当中流······空中而多窍”，分别照应“水石相激”；“噌吰如钟鼓不绝”和“窾坎镗鞳之声”，分别照应“声如洪钟”。这就不仅证实了郦说，而且以详补“简”，为末段叹郦说之“简”作好铺垫。最后写作者对苏迈的谈话。“因笑谓迈曰”的“笑”不同于前面“笑而不信”的“笑”。前者是表示怀疑和否定的笑，这里是释疑后轻松愉快的笑，表现了作者探明真相后的得意、兴奋。作者在谈话中将两种声音与“周景王之无射”和“魏庄子之歌钟”相联系，肯定自己的考察结果，点出以钟名山命名的缘由。又以“古之人不余欺也”肯定郦道元的说法，言语之间生动地显现了作者的确信和欣喜。在这一段，作者以自己的目见耳闻，证实并补充了郦道元的说法，进一步否定了李渤的说法，为末段的议论提供了事实依据。
第三段写探明石钟山得名由来的感想，表明写作意图。可以分为三层。
第一层，“事不目见耳闻，而臆断其有无，可乎？”这句话，语气强烈，以反问的方式表示充分肯定的意思，点明了全篇的主旨，是作者探明石钟山得名由来后所得出的结论、所总结的事理，是作者的心得。
第二层分析世人不能准确知道石钟山得名由来的原因，从两方面说。一方面是说正确说法不能流传的原因，有三点：一是“郦元之所见闻，殆与余同，而言之不详”，是说郦道元的说法是正确的，可惜“言之不详”，致使“人常疑之”，得不到人们的承认；二是士大夫不做实地考察，“终不肯以小舟夜泊绝壁之下，故莫能知”；三是“渔工水师虽知而不能言”。“不能言”是说不能为文，并非不能说话。郦说失之于不详，士大夫能为文而“莫能知”，“渔工水师”虽知而不能为文，这就是石钟山得名由来在世上没有流传下来的原因。然后用“而”字转到另一方面：“陋者乃以斧斤考击而求之，自以为得其实”，是说李渤之类的“陋者”，主观臆断，“自以为得其实”，这是得以有李渤的错误说法和后人以讹传讹的原因。
第三层分承上面所说的两个方面，点明写这篇游记的目的。“叹郦元之简”是肯定郦道元的观点，而又叹其太简略。“笑李渤之陋”是否定李渤的观点，并讥笑其浅陋。这就表明写这篇文章的目的是为了传播自己的见解，证实、补充郦道元的观点，纠正李渤的观点。
这篇文章将议论和叙述相结合，通过夜游石钟山的实地考查，对郦道元和李渤关于石钟山得名的说法进行了分析批评，提出了事不目见耳闻不能臆断其有无的论断，表现了作者注重调查研究的求实精神，富有教育意义。