Krol werd geboren als zoon van de leraar Nederlands Idzerd Krol en Tjitske Groenhof. Hij studeerde wiskunde en begon tijdens zijn studie te werken bij Shell als computerprogrammeur. Later werkte Krol voor de Nederlandse Aardolie Maatschappij als systeemontwerper.

Krol debuteerde in 1961 met gedichten in literaire tijdschriften. In 1962 verscheen zijn romandebuut De rokken van Joy Scheepmaker. In de jaren daarna ontwikkelde hij een eigen schrijfstijl, die vooral tot uiting kwam in Het gemillimeterde hoofd. In dit boek, dat ook in het Italiaans en het Engels werd vertaald, verloochent Krols bèta-achtergrond zich niet: abstracties die in tekeningen en formules aan de lezer worden gepresenteerd zijn er niet ongewoon. Deze elementen keren wat minder uitbundig in Krols latere werk terug.

In 1986 werd hij onderscheiden met de Constantijn Huygensprijs, en ontving in 2001 de P.C. Hooft-prijs voor zijn gehele oeuvre. Zijn zeventigste verjaardag werd op 18 september 2004 uitgebreid gevierd in het Gasuniegebouw te Groningen, met gastsprekers Douwe Draaisma en Hugo Brandt Corstius.

Krol viel in 1990 op door een pleidooi voor het invoeren van de doodstraf: Voor wie kwaad wil. Een bespiegeling over de doodstraf. In het voorjaar van 2001 was hij de eerste gastschrijver aan de Technische Universiteit Delft. De titel van zijn openingscollege luidde Kunst en wiskunde; het behandelde de verhouding tussen alfa's en bèta's, toegespitst op de relatie tussen kunst en mathematica. Daarna gaf Krol voor een groep aankomende ingenieurs een masterclass, met diverse werkcolleges.

Op 20 oktober 2004 maakte de Vrije Universiteit te Amsterdam bekend dat Krol bij de 125ste verjaardag van de universiteit op 20 oktober 2005 een eredoctoraat zou krijgen "wegens zijn bijzondere verdiensten voor de Nederlandse cultuur door een vorm van schrijverschap die uitmuntende literaire kwaliteit paart aan theoretische reflectie en inzichten uit de wetenschappen, in het bijzonder de exacte wetenschappen en de wijsbegeerte".

Ini 1986 sprak Krol met Kayzer over diverse abstracte thema's, waaronder de waarheid, rechtvaardigheid en zelfbeeld, over het verschil tussen schrijven en spreken. Er werden nog vele andere onderwerpen behandeld als politiek, feestjes en vakantie. Na afloop van het gesprek, bekeken Kayzer en Krol de band waarop het gesprek was opgenomen. Krol becommentarieerde daarop de beelden en zijn eigen uitspraken.