Debido a su aislamiento desde el exterior por las frías, fuertes y peligrosas corrientes de agua de la Bahía, Alcatraz se utilizó para albergar a los prisioneros de la guerra civil en 1861. En 1898 la guerra Hispano-Estadounidense incrementó el número de prisioneros de 26 a más de 450. Tras el terremoto de San Francisco en 1906, los prisioneros civiles fueron trasladados a Alcatraz para una reclusión segura.
Durante los 29 años que estuvo en funcionamiento pasaron por ella célebres criminales como Al Capone o Robert Franklin Stroud (el "Hombre Pájaro de Alcatraz").
Los funcionarios de la prisión alegaron que durante sus años de funcionamiento ningún preso pudo escapar de ella con éxito. 36 presos participaron en 14 intentos de fuga, dos personas lo intentaron dos veces, siete murieron y dos se ahogaron. La situación más violenta se produjo el 2 de mayo de 1946, cuando un intento fallido de fuga de seis presos dió lugar a la llamada "Batalla de Alcatraz".
El 11 de junio de 1962, Frank Morris, John y Clarence Anglin llevaron a cabo con éxito una de las más complicadas fugas jamás concebidas. En la parte posterior de las celdas de los reclusos en el Bloque B, donde fueron internados los fugitivos, había un pasillo no vigilado de 0,91 metros de ancho. Los prisioneros cincelaron el hormigón dañado por la humedad alrededor de un respiradero que conducía al pasillo. Utilizaron como herramientas una cuchara de metal soldada con plata de una moneda de diez centavos y un taladro eléctrico improvisado a partir de una aspiradora robada. El ruido era disimulado con el sonido del acordeón durante la hora de música, y el progreso de sus trabajos se ocultaba con falsas paredes de cartón que engañaba a los guardias en la oscuridad de la noche.
Para facilitar la huída los presos dejaron en sus respectivas camas muñecos de papel maché a los que les habían pegado cabello real de la peluquería de la prisión.
Por decisión del Fiscal General Robert F. Kennedy la prisión fue cerrada el 21 de Marzo de 1963, debido al alto coste de su funcionamiento, al medio siglo de saturación del agua salada del mar que erosionó gravemente el edificio y a la contaminación del mar por las aguas residuales de la prisión.
A partir del 20 de noviembre de 1969, un grupo de Nativos Americanos de diferentes tribus ocuparon la isla y reclamaron un centro de educación, un centro de ecología, un centro espiritual, un museo y una escuela india. Según los ocupantes, el Tratado de Fort Laramie (1868) entre los Estados Unidos y los Sioux devolvía a los Nativos Americanos todas las tierras retiradas, abandonadas o fuera de uso que les fueron arrebatadas.
Como curiosidades del funcionamiento de la prisión cabe destacar que a los reos recién llegados los paseaban desnudos por la avenida principal del recinto llamada "Broadway" para hacerlos sentir inferiores a sus compañeros de celda. Además existía un detector de metales por donde pasaban los visitantes. Cuando la madre de Al Capone fue a visitarlo una vez el detector sonó a causa de su corsett. La hicieron quitarse toda la ropa para cachearla y ella no volvió más...
