Desde 1950 interesouse na investigación sobre as partículas elementais, recentemente descubertas e denominadas caón e hiperión.A súa clasificación permitiu nomear un novo número cuántico. As súas investigacións, primeiro con Abraham Pais e posteriormente con Kazuhiko Nishijima, permitiron a introdución dunha nova partícula, o hadrón, partícula que descubriu á vez o físico israelí Yuval Ne'emal. A teoría de Gell-Mann achegou orde ao caos ao descubrir preto de 100 partículas no interior do núcleo atómico. Estas partículas, ademais dos protóns e neutróns, estaban formadas por outras partículas elementais denominadas quarks. Estes quarks mantéñense unidos grazas ao intercambio de gluons.
En 1964 ingresou na NASA e postulou o modelo do quark, un modelo que tamén postulou independentemente George Zweig. A teoría moderna das interaccións dos quarks denomínase Cromodinámica cuántica, baseada basicamente sobre o traballo de Gell-Mann.
En 1969 outorgóuselle o Premio Nobel de Físicapolas súas contribucións e descubrimentos na clasificación de partículas elementais e as súas interaccións. Xunto a Richard Feynman, rivalizando con George Sudarshan e Robert Marshak, foi o primeiro en atopar a estrutura da forza nuclear débil en física. Este traballo seguiu co descubrimento inicial da violación da paridade de Chien-Shiung Wu, segundo as ideas suxeridas polos físicos Chen Ning Yang e Tsung-Dao Lee.