Las llamas se empinaban hacia el cielo y columnas de humo negro se elevaban sobre el lugar, en fotos y un video.
La agencia de noticias TASS dijo que al menos 40 personas habían muerto y otras 100 resultaron heridas.
Los medios de comunicación rusos informaron de una segunda explosión en el recinto y que algunos de los hombres armados se habían atrincherado en algún lugar del edificio.
Al parecer, el tiroteo comenzó en un concierto de la banda "Picnic".
"De repente se oyeron tiros detrás de nosotros, disparos. Una ráfaga de disparos, no sé de qué", dijo a Reuters un testigo que pidió no ser identificado. "Comenzó una estampida, todo el mundo corrió hacia las escaleras mecánicas (...) Todo el mundo gritaba, todo el mundo corría".
El episodio ocurrió apenas unos días después de que el presidente Vladimir Putin fue reelegido para un nuevo mandato de seis años y mientras Rusia prosigue una guerra con Ucrania.
"Hoy ha ocurrido una terrible tragedia en el Crocus City", dijo el alcalde de Moscú, Serguéi Sobianin. "Lo siento por los seres queridos de las víctimas".
Rusia reforzó la seguridad en aeropuertos y estaciones y en toda la capital, una vasta zona urbana de más de 21 millones de habitantes. Putin aún no se ha pronunciado por lo ocurrido.
El Ministerio de Asuntos Exteriores ruso dijo que se trataba de un "sangriento atentado terrorista".
"Toda la comunidad mundial está obligada a condenar este monstruoso crimen", dijo la portavoz del Ministerio de Exteriores, Maria Zakharova. "Se están haciendo todos los esfuerzos para salvar a la gente".
Disparos contra la gente
En un video no verificado publicado en las redes sociales aparecían hombres con armas automáticas disparando repetidamente contra civiles que gritaban, incluidas mujeres, que estaban acurrucadas debajo de lo que parecía un cartel de entrada al "Crocus City Hall".
Otras imágenes de video mostraban a varias personas tendidas inmóviles en charcos de sangre fuera de la sala. Reuters no pudo verificar de inmediato las imágenes.
Uno de los videos mostraba a los atacantes disparando contra la gente en la sala de conciertos.
La embajada de Estados Unidos en Rusia advirtió a principios de este mes que "extremistas" tenían planes inminentes para un ataque en Moscú.
La sede diplomática emitió su advertencia varias horas después de que el Servicio Federal de Seguridad de Rusia (FSB), el principal sucesor de la KGB de la era soviética, dijo que había frustrado un ataque a una sinagoga en Moscú por parte de una célula del grupo militante musulmán sunita Estado Islámico.