Commandant du 8e Corps en 1937, il est l’un des initiateurs des forces blindées allemandes : Paul ludwig ewald von kleist. Hostile à Hitler, il se heurte amèrement à lui et est contraint de démissionner de l’armée, pour être rappelé en 1938, à la tête du 1er corps blindé mixte de la 10e armée de von Reichenau.
A participé à la campagne de Pologne en 1940 et en France (à la tête de cinq divisions blindées et de trois divisions mécanisées du groupe d’armées « A » de von Rundstedt), chargé de réaliser la percée décisive dans les Ardennes.
L’opération est alors confiée au général Guderian, avec qui il a des divergences sur la stratégie de guerre (ce dernier a même proposé à Hitler de renvoyer von Kleist), mais qui remporte néanmoins de beaux succès sur le territoire français, détruisant avec ses troupes blindées pas moins de huit divisions ennemies en seulement quatre jours.
Il participe ensuite à la campagne des Balkans, s’empare de Belgrade (1941), et lorsque les hostilités éclatent contre la Russie, il commande le 1er groupe blindé des armées » du Sud » de von Rundstedt (la lettre » K » peinte en blanc sur ses chars les distingue de ceux du second groupe avec le » G » de Guderian).
Après que Reichenau a percé la ligne de Staline, Kleist et von Stulpnagel ferment vingt divisions russes dans la poche d’Ouman, faisant plus de 100 000 prisonniers. Avec Guderian, il participe au siège de Kiev et aux opérations en Ukraine.
Kleist passe alors sous le commandement de von List et, toujours à la tête de la 1ère armée blindée, poursuit l’expédition dans le Caucase avec l’intention de s’emparer des champs pétrolifères, mais échoue en raison du manque de carburant et de l’épuisement constant de son contingent.
En 1942, il conquiert Rostov, puis se dirige vers Stalingrad : la situation est tragique, et après la défaite du général Paulus et la décision de Hitler de se retirer, Kleist se retire du Caucase sans subir de lourdes pertes, et est nommé maréchal.
Il est ensuite affecté en Crimée, où il commande le groupe d’armées « A », mais face aux offensives de Malinovsky et de Tolbuchin, il doit se retirer et est finalement renvoyé par Hitler en faveur de Schorner.
Lors de son retrait, il est fait prisonnier par les Alliés, puis placé en détention par les Soviétiques. Il est mort en 1954 dans le camp de prisonniers de Vladimirovka.