В 1995 году Баллак дебютировал на высшемпрофессиональном уровне в 1995 году в клубе [[Вторая Бундеслига|Второй Бундеслиги]] «[[Кемницер (футбольный клуб)|Кемницер]]». В своём первом сезоне на взрослом уровне Баллак отыграл 15 матчей, а «Кемницнер» по итогам сезона вылетел из Второй Бундеслиги в [[Региональная лига Германии по футболу|региональную лигу]]. В сезоне 1996/97 Баллак был лидером клуба, забил в 34 матчах 10 голов и получил вызов в молодёжную сборную. В этом же сезоне Баллаку поступило приглашение из «Кайзерслаутерна», который по итогам [[Вторая Бундеслига 1996/1997|сезона 1996/97]], под руководством [[Рехагель, Отто|Отто Рехагеля]], вернулся в Бундеслигу. Летом 1997 года Баллак переехал в [[Кайзерслаутерн]].