Marvin Neil Simon néven látta meg a napvilágot New York Bronx városrészében egy házaló ügynök második fiaként. Néhány egyetemi szemeszter után, 19 évesen jelentkezett a hadseregbe, és egy coloradói bázis lapjának sportszerkesztője lett, első zsengéi is itt jelentek meg.

Leszerelése után a Warner Brothers filmcég New York-i képviseleténél, a postázóban kapott állást. Két év robot után felmondott, és Danny bátyjával revüknél kezdtek dolgozni. Hamarosan a rádió és a tévé is felfedezte őket.

A Broadway-musicalek szövegkönyveinek pofozgatása után megpróbálkozott az önálló darabokkal is. Több nekifutás után 1961-ben mutatták be az önéletrajzi ihletésű Fújd meg a kürtöd című komédiáját, amelyben két fiútestvér nem akarja átvenni apjuk gyümölcsüzletét. A darab hatalmas siker lett, 677 előadást élt meg.

1963-ban bemutatták a Mezítláb a parkban című házassági komédiáját, amelyből óriási sikerű film is készült. Ettől kezdve ontotta a kasszasikereket: a Furcsa pár (1965) ihletője bátyja, Danny volt, aki válása után egy másik elvált férfival költözött egy lakásba. A szintén 1965-ben írott Sweet Charity Fellini Cabiria éjszakái című filmje alapján készült musical, az 1972-es A Napsugár fiúk két kiöregedett kabarészínész története.

Simon a legsikeresebb amerikai szerző lett, akinek 1967-ben egyszerre négy, 1971-ben három darabja ment a Broadwayn. A közönség imádta, de a kritika még ekkor is szapulta, "gegmesterként" emlegették. Majdnem igazuk lett, mert 1973 a mélypontot jelentette pályáján: első felesége, akivel húsz boldog évet élt le, meghalt, s gyors egymásutánban két darabja is megbukott. A hullámvölgyből egy váltás segítségével jutott ki: feleségül vette Marsha Mason színésznőt, és Kaliforniába költözött.

A Kaliforniai lakosztály című darabbal tért vissza a siker csúcsaira. Sok színművének témáját merítette életéből és gyermekkorából, ilyen volt az 1977-ben született Második fejezet is, amelyet a kritika a legjobb darabjának tart. Ebben egy újonnan nősült férj próbál túljutni az előző felesége halála miatti szomorúságán. A nyolcvanas évek elején egy önéletrajzi trilógiával rukkolt elő, ezekben viharos gyermekkorát, katonai szolgálatát és első írói szárnypróbálgatásait örökítette meg. Immár a kritikusok is komolyan vették, s ennek legbiztosabb jeleként 1991-ben az Elveszetten Yonkersben című darabjáért megkapta a Pulitzer-díjat.

Sikeres darabjait szinte kivétel nélkül megfilmesítették, a forgatókönyvet általában saját maga írta. A Furcsa párban emlékezetes alakítást nyújtott Jack Lemmon és Walter Matthau, A Napsugár fiúkban Matthau George Burns oldalán sziporkázott, a Sweet Charity Shirley MacLaine jutalomjátékát hozta.

Simon ötször kötött házasságot (Diane Lander színésznőt kétszer vette el), és három gyermeke van, 2004-ben veseátültetésen esett át.

Pályafutása során 33 darabot írt, önéletrajza két kötetben jelent meg, négy Tony-, két Emmy-díjat, egy Arany Glóbusz- és egy Pulitzer-díjat kapott, háromszor jelölték Oscar-díjra, s megkapta a Kennedy Központ díját. Ő volt az egyetlen szerző, akiről életében színházat neveztek el a Broadwayn.