O CEFISMA surgiu em 1959, vinculado aos cursos de física e matemática da antiga FFCL, com sua primeira sede no prédio da rua Maria Antônia. Ao longo dos anos o Centro expandiu suas atividades para além das acadêmicas, como cultura, integração e representação dos estudantes. Consequência direta do AI-5, foi fechado em 1968, retomando suas atividades apenas em 1973, já no campus do Butantã. Com a Reforma Universitária, os cursos foram separados: da matemática, restou apenas a sílaba “MA”. Desde então, o CEFISMA é o Centro Acadêmico da Física USP, sediado atualmente, no edifício Amélia Império Hamburger.
