经专家考证，该山形成于第四纪更新世早期，为12万年前火山喷发物堆积而成。古书《禹贡》称其为“碣石”。据《后汉书》记载，在汉末年，曹操曾登临此山，观沧海并赋诗言志，颂为千古佳话。马谷山茕茕孑立于鲁北平原上，山巅旧有“碧云之君宫”、“玉皇阁”、“吕祖阁”等气势恢宏的建筑。

该山有东、西二峰，山势北坡低缓，南坡陡峭，东、北各有一数丈深涧。山前有一山井，井深水旺，水质甘甜。山半腰有数亩果园，园内洞谷相连，层层果树相互攀接，一到春季，蜂飞蝶舞，景色宜人。登临此山，极目远眺，直视无碍，海天相连，渔帆点点；近望，河流如带，村庄棋布，绿野似锦。乘坐客车可直达山脚，游览最佳时节为春、夏、秋三季。