Begley började sin karriär som Broadway och radio skådespelare i tonåren. Han medverkade i musikalen Going Up on Broadway 1917 och i London nästa år. Han agerade senare i roller som Sgt O ’ Hara i radioprogrammet The Fat Man. Hans radioarbete inkluderade Stroke of Fate och en period som Charlie Chan, bland andra roller. Han medverkade också i 1950-talets radioprogram Richard Diamond, privatdetektiv, spelar löjtnant Walter Levinson, chef för mord på 5: e distriktet, Manhattan. Han valdes till medlem av lammen 1943., I slutet av 1940-talet började han visas regelbundet i att stödja filmroller.
Begley (höger) med Monte Markham 1969
Under TV-säsongen 1952-1953 spelade Begley med Eddie Albert i CBS-sitcom och lämnade det till Larry. Begley, men bara fem år äldre än Albert, spelade svärfar och arbetsgivare av Alberts karaktär, Larry Tucker, en skoförsäljare, som med sin unga familj bor med Begley., 1954 Begley medverkade i NBC och Robert Montgomery Presenterar i ”Big Boy”, en episod som sponsras av Lucky Strike, som Joe Grant, en ingenjör för Union Pacific Railroad som bor i Cheyenne, Wyoming, som arbetade på den berömda Union Pacific ånglok Big Boy. Showen handlar om hur Begleys karaktär klarar av övergången från ånglok till diesellok på 1950-talet.
Han vann Oscar för bästa stödjande skådespelare för sin roll i Sweet Bird of Youth (1962). Några av hans andra anmärkningsvärda filmer inkluderar Deadline-USA, (1952), 12 Angry Men (1957) som jurymedlem #10, Den osänkbara Molly Brown (1964) och Wild in the Streets (1968). Begley spelade en viktig roll både på tv (två gånger 1955) och i teaterfilmen (1956) är William (Bill) Briggs, en av de tre huvudpersonerna i Rod Serlings mönster.
1956 uppträdde han i Broadway-produktionen av Inherit the Wind, i rollen som Matthew Harrison Brady. För denna prestation vann han Tony Award för Bästa Skådespelare i en pjäs. 1968 medverkade han med Clint Eastwood i den klassiska western-Hang ’Em High.,
hans andra tv-arbete inkluderade framträdanden på rättvisa, Empire, Virginian, Bonanza, The Fugitive, Dick Van Dyke Show, Target: the Corruptors, the Invaders, The Wild Wild West, Wagon Train och Going My Way, med Gene Kelly. Bland hans många Broadway krediter var alla mina söner och vår stad.