Den 60-årige tränaren fick sparken från Toronto i november 2019 och anklagades då för fysiska och mentala övergrepp på spelare.
– Jag var livrädd för att vara i ishallen. Han är en fruktansvärd människa, sade exempelvis förre NHL-stjärnan Johan Franzén, som haft Babcock som tränare i Detroit, till Expressen.
Babcocks avgång från Columbus kommer efter uppgifter om att han krävt att få se spelarnas privata mobilbilder från sommaren när de kom tillbaka till klubben efter semestern.
Babcock förnekade anklagelsen, men spelarfacket NHLPA beslutade att starta en utredning. Redan innan den är slutförd väljer dock Babcock att hoppa av.
"När jag har reflekterat stod det klart för mig att det skulle bli en distraktion om jag fortsatte som huvudtränare i Columbus", säger Babcock i ett uttalande på klubbens webbplats.
Babcock har fört Kanada till två OS- och ett VM-guld och har en Stanley Cup-titel med Detroit.
Assisterande tränaren Pascal Vincent ersätter Babcock som tränare och har skrivit tvåårskontrakt.
Tre svenskar spelar i Columbus – backarna Marcus Björk och Adam Boqvist samt forwarden Emil Bemström.