悬瓠城是汝南郡首府所在，因其三面环水，形如悬浮的瓠瓜而得名。根据《水经注》记载，汝河环绕城北、西、南三面，形成天然屏障，犹如瓠瓜悬浮于水中，故称悬瓠城。

此外，因城内有产自悬瓠山的玉矿，雕刻出的玉瓠色泽莹润，远近闻名，也促成了“悬瓠”这一名称的由来。