A partir de 1938, sobre todo por su rechazo de los crueles eventos contra los judíos en la Noche de los cristales rotos en Alemania, von Stauffenberg se fue distanciando primero paulatinamente y al final abiertamente del nacionalsocialismo.
La ideología y práctica hitleriana del exterminio sistemático de ciertas minorías, sobre todo la de los judíos, le convirtió en enemigo acérrimo de Hitler, a quien consideraba un monstruo. A finales de 1942 le preguntaron qué hacer con Hitler. Él contestó: "¡Matadle!". Sin suficientes medios ni tropas, Hitler decidió mantener un frente de miles de kilómetros en la Unión Soviética desde el Mar Negro en el Sur hasta el Mar Báltico en el Norte, aun en contra de la opinión de sus generales, que le recomendaron concentrar sus tropas sobre todo en la conquista de Moscú, donde Hitler pensaba terminar su campaña al estilo "Blitzkrieg" (similar a la campaña de Francia) antes del comienzo del invierno de 1941 y no tenía a sus tropas equipadas con la ropa y el material adecuados para las temperaturas extremas de un invierno ruso. La estrategia hitleriana permitiría a los soviéticos atacar con fuerzas superiores en donde más les conviniera. La primera y más conocida consecuencia fue la batalla de Stalingrado en el sur del frente a finales de 1942, un sangriento desastre para los alemanes. Además en septiembre de 1943, una vez recuperado de sus gravísimas heridas, con ayuda de su amigo y también conspirador teniente general Henning von Tresckow volvió al servicio activo en Berlín bajo el mando del general Friedrich Olbricht en el OKW (Oberkommando der Wehrmacht) en la calle Bendler (hoy Stauffenbergstrasse) en Berlín. Olbricht era miembro del comité de resistencia que estaba perfilando un plan para dar muerte a Hitler. El 1 de julio de 1944 von Stauffenberg fue asignado a la Jefatura del Estado Mayor del general Fromm, a cargo de la reserva de la Wehrmacht, también situada en la Bendlerstrasse de Berlín.
Von Stauffenberg, ahora nombrado coronel i.G. ("im Generalstab", de Estado Mayor) con 36 años de edad, bajo el nuevo cargo de jefe de las reservas de la Wehrmacht (Ersatzheer), tenía acceso directo a las reuniones del comité de planificación de las operaciones que el mismo Hitler encabezaba. Este hecho le permitía reunirse con regularidad con el "Führer".
El plan de Olbricht era adaptar el llamado Plan Valquiria para los fines de la resistencia y tenía entrelazados a entre 200 y 500 implicados en diferentes estratos de la sociedad alemana, militares de la Wehrmacht e incluso de la sección de inteligencia y contraespionaje liderada por el almirante Wilhelm Canaris.
El plan Valquiria había sido ideado inicialmente por el SS Reinhard Heydrich para mantener el control del Reich en manos del Führer, en caso de que la seguridad y estabilidad del régimen se viera comprometida por un levantamiento; paradójicamente Olbricht quería utilizar este mismo plan para derrocar al régimen nazi.
Paralelamente, sobre todo entre miembros de la aristocracia prusiana, la mayoría luteranos practicantes, se había constituido un círculo secreto llamado Círculo de Kreisau; consideraban que Hitler estaba llevando a Alemania a la ruina moral y material, por lo que debía ser eliminado (pero no matado). Este círculo era la parte civil de la conspiración y estaba liderado por el conde Helmuth James von Moltke, Peter Yorck von Wartenburg, Adam von Trott zu Solz, Hans Bernd von Haeften, Fabian von Schlabrendorff, el alcalde conservador de LeipzigCarl Goerdeler y el hermano de Claus, Berthold von Stauffenberg, entre otros.
La parte militar estaba encabezada al principio, a partir de 1942 por el coronel von Tresckow y a partir del 1 de septiembre de 1943 por von Stauffenberg. Éste tenía el apoyo del mariscal retirado Erwin von Witzleben, del general Ludwig Beck y la ayuda activa del general Olbricht. El general Fromm no había dado explícitamente su apoyo incondicional al movimiento, pero había participado en la confección del listado de un nuevo gobierno y sabía en detalle de las actividades de von Stauffenberg. La actitud de Fromm de cara a los conspiradores fue ambivalente desde el principio hasta el final.
El plan consistía en eliminar en el mismo atentado a Hitler, Hermann Göring y Heinrich Himmler. Luego, en Berlín, Fromm debía neutralizar a las SS con el ejército de reserva y von Stauffenberg ganar y organizar el apoyo activo de la Wehrmacht en toda Europa. En Francia, el general Stülpnagel debía neutralizar a los gauleiter y SD Berlín; y cortar las comunicaciones con el comandante Szokoll y el coronel Heinrich Cordé debían neutralizar los edificios de la Gestapo (policía secreta) y de la policía en Viena. Posteriormente se instalaría un gobierno provisional que intentaría firmar la paz con los aliados y poner fin a la guerra.
Motivos del plan Valkiria.
Se dice que la decisión de llevar a cabo el asesinato se debió a los errores estratégicos de Hitler en el modo de llevar la guerra o a la repulsa de von Stauffenberg al enterarse del los crímenes y limpieza racial llevados a cabo por Hitler y las SS. Al parecer, fueron ambos motivos los que unidos a la influencia de su tío Berthold y su entorno familiar los que gatillaron la intervención decidida de Claus von Stauffenberg. En resumen, casi todos coinciden en que el plan fue fruto de un intento para frenar la guerra, se cree que también la política agresiva sobre la población de judíos, gitanos, etc., en los países ocupados por Alemania, llevó a von Stauffenberg a realizar el atentado para acabar con Hitler.
Fracaso del golpe y muerte de von Stauffenberg.
Una vez llegado von Stauffenberg, los implicados se movilizaron para efectuar el golpe de estado. Alrededor de las 18 horas las cosas no parecían ir mal para los conspiradores, cuando el general Fromm, comandante en jefe del Comando de Reemplazo, que conocía el plan y tenía por misión desmovilizar los SS, escuchó por una conversación telefónica con el cuartel general de la Wolfsschanze que Hitler se había salvado. Fromm, fríamente, a partir de este momento asumió el papel de leal seguidor de Hitler y se negó a continuar con el golpe. Von Stauffenberg y otros oficiales lo arrestaron.
Mientras tanto, Goebbels hizo que el mayor Remer, que iba a detenerle en su despacho, escuchase la voz de Hitler por teléfono, quien le ordenó desmovilizar a los reservistas y telefónicamente le dio el grado de coronel. Más tarde el general Guderian acudió con sus tanques y tomó Berlín. El golpe se desbarató.
Sobre las 11 de la noche, Fromm se liberó de su arresto y detuvo a los sorprendidos von Stauffenberg y los demás conspiradores. Él mismo condenó a muerte al coronel Claus von Stauffenberg, al teniente Heinrich von Haeften, al general Olbricht y al coronel Albrecht Mertz von Quirnheim, los cabecillas de la operación.
Fromm avisó a Himmler escuetamente por teléfono y colgó. Luego sacó a los cuatro condenados al patio de estacionamiento y mandó que fuesen ejecutados unos minutos después de la medianoche del 20 de julio. Lo hizo antes de que llegaran las SS, sumariamente y sin tribunal. Esta decisión la tomó Fromm para que los conspiradores no declararan en su contra y así poder salvarse.
En primer lugar fusilaron al general Olbricht. Como segundo le tocaba el turno a von Stauffenberg, pero, cuando estaban a punto de disparar, el teniente von Haeften se lanzó delante de von Stauffenberg, recibiendo las balas destinadas a su superior. Las últimas palabras gritadas por Stauffenberg segundos antes de morir como tercero fueron: Larga vida a la Sagrada Alemania (Es lebe das heilige Deustchland!). Mertz von Quirnheim murió en último lugar.
En las dos semanas siguientes al 20 de julio de 1944 murieron unas 200 personas directamente implicadas. Más de 5.648 personas fueron ejecutadas los meses siguientes por las SS.
