Né le 27 Décembre 1925 à Paris, Michel Piccoli est le fils d'un violoniste venant d'un milieu modeste et d'une pianiste, issue d'une famille bourgeoise. Ils l'ont conçu après avoir perdu un premier enfant. Il fait ses études au collège d'Annel, à l'École Alsacienne et au Collège Sainte-Barbe à Paris. A l'occasion d'un spectacle de fin d'année, un déclic se produit chez cet adolescent introverti qui s'épanouit sur les planches. Décidant de devenir acteur à 18 ans, il prend des cours de théâtre chez Andrée Bauer-Thérond, puis René Simon. Il fait ses débuts au cinéma avec une figuration dans le film "Sortilèges" de Christian-Jaque et trouve un premier vrai rôle (celui d'un mineur) dans "Le Point du jour" en 1948, il se consacre surtout à la scène, au sein des compagnies Renaud-Barrault et Grenier-Hussenot ou encore du très novateur Théâtre de Babylone.