Nació en la provincia de Shandong, en una familia de granjeros. Dejó la escuela durante la Revolución Cultural para trabajar en una fábrica de petróleo. Se alistó en el Ejército Popular de Liberación, las actuales fuerzas armadas de su país, a los veinte años, y empezó a escribir siendo todavía soldado.
En 1981 publicó su primera novela, Lluvia en una noche de primavera. En 1984 obtuvo un puesto en la Escuela de Arte y Literatura del Ejército, lo que le permitió dedicar más tiempo a escribir. El éxito le llegó con sus novelas El rábano transparente y, sobre todo, El sorgo rojo (1987). En 1996 publicó Grandes pechos amplias caderas, donde casi un siglo de historia de China es visto a través de los ojos de una mujer. Este libro fue prohibido por las autoridades de Pekín.
En Occidente es conocido principalmente por la adaptación cinematográfica de una de sus novelas, que, con el título de Sorgo rojo, rodó el director Zhang Yimou.
Se le ha comparado en ocasiones con Franz Kafka y sus obras han sido traducidas a numerosos idiomas, incluido el español.
Su consagración mundial definitiva le llegó el 11 de octubre de 2012, al ser galardonado con el Premio Nobel de Literatura.
Mo Yan ha publicado en chino numerosos relatos y novelas, de las que han sido traducidas solo cuatro al español. Varias de las novelas de Mo Yan han sido llevadas al cine.