K-On! conta a história de garotas do colegial que se juntam ao clube de música leve para tentar salvar ele de ser fechado. Porém, os únicos membros do clube não têm muita experiência com os instrumentos e tablaturas. O nome K-ON! vem do termo japonês para Musica Leve: 

keiongaku (軽音楽).