Detenido repetidas veces en su juventud en Nueva Orleans, en sus primeros años en la cárcel se unió al Partido de las Panteras Negras por su compromiso social y su código de conducta. Se encontraba cumpliendo una condena de cincuenta años por robo a mano armada cuando, el 17 de abril de 1972, fue asesinado un guardia blanco.
Albert y otro miembro de las Panteras Negras fueron acusados del crimen de inmediato y trasladados a celdas de aislamiento por el director de la prisión. Sin pruebas reales, fueron condenados a cadena perpetua en celdas de aislamiento. Pasaron décadas antes de que Albert consiguiera un abogado competente. A pesar de todo, no fue liberado hasta dieciséis años después, en febrero de 2016. Albert Woodfox es el preso que más tiempo ha pasado en celda de aislamiento en Estados Unidos.