臺兒莊地區歷史悠久，從蘭城店鄉西蘭城村出土的大汶口文化時代的文物，邳莊鄉趙村出土的岳石文化和龍山文化的文物，以及龍山文化時期的曬米城遺址證明，在新石器時期，就有人類在這里繁衍生息。
現臺兒莊區境域夏屬鄫(zeng)國，商屬偪(bi)陽國，西周、春秋因之。
魯襄公十年（前563)晉滅偪陽于宋。
后，楚滅宋改偪陽國為傅陽縣。
當時區境西部屬傅陽縣，東部屬蘭陵縣。
秦時為郯郡轄地，西屬傅陽縣，東屬蘭祺縣。
西漢時西部屬楚國傅陽縣，東屬蘭祺縣。
東漢時東部屬東海郡氶(zheng)縣，西屬彭城國傅陽縣。
三國時屬魏，郡縣制沿襲東漢。
西晉時，先屬東海郡，后北部屬蘭陵郡氶縣，西部屬彭城國傅陽縣。
東晉時，北部屬蘭陵郡氶縣，西部屬彭城郡。
南北朝時屬蘭陵郡氶縣。
隋朝時屬彭城郡蘭陵縣。
唐朝時屬河南道沂州氶縣。
五代時，先后屬后梁、后唐、后晉、后漢、后周，隸屬沂州氶縣。
北宋時屬京東東路沂州氶縣。
金時，先屬山東西路，后為河南路邳州蘭陵縣轄，后改屬嶧州蘭陵縣。
元時，為山東西路嶧州蘭陵縣管轄，東南少部分屬邳州武原縣。
明時，先屬山東省濟寧府，后為兗州府轄。
洪武二年（1369）降(jiang)嶧州為嶧縣。
清時屬山東嶧縣，現張山子鎮部分地區屬于滕縣。
民國時期沿襲清朝，現蘭城店鄉和邳莊鄉之部分地區屬蘭山縣、邳縣。
中華人民共和國成立后，1949年10月至1953年8月為山東省蘭陵縣轄，1953年9月至1960年1月屬山東省嶧縣，1960年1月至1962年5月屬棗莊市，1962年6月始設臺兒莊區，沿用至今。