Vietnamkrieg, Studentenproteste und vor allem aber die Rüstungsdynamik des Kalten Krieges: Das war der außen- und innenpolitische Nährboden auf dem in Deutschland die ersten Friedenforschungsinstitute entstanden. 1968 gründeten sechzehn Wissenschaftlerinnen und Wissenschaftler die Arbeitsgemeinschaft für Friedens- und Konfliktforschung (AFK). Der wissenschaftliche Zugang zu den Themen Krieg und Frieden sollte die politische Debatte versachlichen und konkrete Lösungen für die Praxis anbieten. Richtig in Schwung kam die Friedensforschung als eigenständige akademische Disziplin in den Folgejahren. Mehrere weitere Friedensforschungsinstitute wurden gegründet, darunter 1971 auch das IFSH. Wolf Graf von Baudissin war der erste Direktor des Instituts. 1984 übergab er die Leitung des IFSH an den renommierten Entspannungspolitiker und Minister a.D. Egon Bahr. Er führte das Institut zehn Jahre. Als weitere Direktoren folgten Dieter S. Lutz (1994-2003), Reinhard Mutz (kommissarischer Direktor 2003-2006), Michael Brzoska (2006-2016) sowie Wolfgang Zellner und Götz Neuneck (kommissarische Direktoren 2016-2017).

Seit Oktober 2017 ist Ursula Schröder die wissenschaftliche Direktorin des IFSH.