1954年至1957年，安德罗波夫担任苏联驻[[匈牙利]]大使，他参与了镇压1956年匈牙利革命的活动。 1967年5月10日，他被任命为克格勃主席。他监督了大规模镇压异议的行动，这种镇压是通过大规模逮捕和大规模实施被认为“在[[社会]]上不受欢迎”的人的非自愿精神病治疗来进行的。勃列日涅夫在其领导的最后几年[[健康]]状况下降，安德罗波夫与外交部长安德烈·格罗米科和国防部长德米特里·乌斯蒂诺夫组成三驾马车，最终主导了苏联的政策。