李公堤为唐朝长庆年间李渤担任江州刺史时所建,这里的江州就是现在的九江。
李渤少年时曾与其兄李涉隐居“白鹿洞”读书,“白鹿洞”因此而得名。李渤担任江州刺史时,江州城南有一湖叫南湖,面积约一千二百亩,东抵北风嘴,西连龙开河,南接山川岭,北依浔阳城。
由于湖面宽阔,南来北往行人非常不方便。李渤为了方便行人,就组织人力在湖中建了一条长堤。堤长七百步(约二里),南连山川岭,北接城池的南门口,沟通南北往来的百姓。堤上还建有一座小桥,桥下连通两边的湖水,并安装水闸,控制和调节两边的水位,方便灌溉农田之利。后人为感谢李渤的功绩,将新建的长堤命名为“李公堤”,堤西面的湖取名甘棠湖,中间的小桥命名为思贤桥。