1908년에 프로 경력을 시작했다. 마이너 리그 팀 랭커스터 레드로지스에서 뛰다가 1912년 필라델피아 애슬레틱스에서 메이저 리그 데뷔를 했다. 이후 3년간 다시 마이너 리그에 내려가 있다가 1916년 클리블랜드 인디언스로 이적하면서 메이저 리그 주전으로 자리잡았다. 1920년 월드 시리즈에서 3승을 거두는 등 아홉 시즌 동안 인디언스에서 에이스로 활약했다. 선수 말년에는 워싱턴 세너터스에서 3년을, 뉴욕 양키스에서 1년을 뛰었고 1928년 시즌 후 유니폼을 벗었다. 은퇴 후 인디애나 주사우스벤드에서 살다가 1984년에 세상을 떠났다. 코벨레스키는 씹는 담배 등을 이용해 스핏볼을 던지며 선발로 활약했던 투수였다. 1920년부터 이러한 투구가 금지되었으나, 예외적으로 그를 포함한 17명의 투수들에게 스핏볼을 던질 수 있도록 허용되었다.