Helen Toner
Helen Toner est une chercheuse australienne et directrice de la stratégie au Centre pour la Sécurité et les Technologies Émergentes de Georgetown. Elle était membre du conseil d'administration d'OpenAI lorsque Sam Altman a été licencié[1],[2].
| Naissance | |
|---|---|
| Nationalité | |
| Formation | |
| Activités |
| A travaillé pour | |
|---|---|
| Site web |
Jeunesse et éducation
modifierToner est née en 1992 à Melbourne, en Australie. Elle est diplômée de l'Université de Melbourne en 2014, et a participé à UN Youth, une organisation qui propose aux étudiants de participer à des simulations de diplomatie internationale[3],[4].
Carrière
modifierLa carrière de Toner a commencé avec son implication dans l'altruisme efficace, un mouvement qui vise à adopter une démarche analytique afin d’identifier les meilleurs moyens d’avoir un impact positif sur le monde, et qui promeut notamment la sûreté des intelligences artificielles[3],[5]. Après avoir obtenu son diplôme, Toner a travaillé avec GiveWell et Open Philanthropy, une initiative cofondée par Dustin Moskovitz[3].
Toner a notamment étudié l'industrie chinoise de l'intelligence artificielle[3]. Elle a ensuite travaillé comme chercheuse affiliée au Centre pour la gouvernance de l'IA de l'Université d'Oxford, avant de devenir directrice de la stratégie et des subventions de recherche fondamentale au Centre pour la Sécurité et les Technologies Émergentes de Georgetown[3],[6]. Elle a co-écrit des articles dans Foreign Affairs[7],[8].
Fin 2021, Toner a été nommée au conseil d’administration d’OpenAI[3]. OpenAI appartient à des investisseurs, dont Microsoft, mais l'organisation a conservé sa structure de gouvernance à but non lucratif, rendant les membres du conseil d'administration responsables des objectifs altruistes de l'organisation, plutôt que les actionnaires[9].
En octobre 2023, elle a publié le rapport « Decoding Intentions : Artificial Intelligence and Costly Signals » avec deux co-auteurs, écrivant[10]:
« OpenAI a également suscité des critiques pour de nombreuses autres questions de sécurité et d'éthique liées aux lancements de ChatGPT et GPT-4, notamment en ce qui concerne les problèmes de droits d'auteur, les conditions de travail des annotateurs de données, et la vulnérabilité de leurs produits aux "jailbreaks" qui permettent aux utilisateurs de contourner les contrôles de sécurité. »
Après la publication du rapport, Altman a tenté d'évincer Toner, considérant que le journal critiquait l'entreprise[4].
Le 17 novembre 2023, Toner et trois autres membres du conseil d'administration ont voté en faveur de la destitution de Sam Altman en tant que PDG d'OpenAI. La raison invoquée par le conseil d'administration était qu'Altman n'était « pas toujours franc dans ses communications » avec le conseil d'administration[11]. Certains membres du conseil d'administration ont considéré qu'Altman leur avait menti, par exemple pour exclure Toner du conseil[12]. Quatre jours plus tard, la décision a été révoquée et elle a été exclue du conseil d'administration[13].
En mai 2024, elle a expliqué dans un podcast les raisons du licenciement de Sam Altman par le conseil d'administration[14].
Références
modifier- (en) Cet article est partiellement ou en totalité issu de l’article de Wikipédia en anglais intitulé « Helen Toner » (voir la liste des auteurs).
- (en) Josh Taylor, « Who is Helen Toner the Australian woman ousted from the board of OpenAI? », The Guardian, (lire en ligne, consulté le )
- (en) Natasha Mascarenhas, « Altman Argued With OpenAI Board Member Toner Before Ouster », sur The Information,
- (en) « Aussie altruist at the heart of the OpenAI imbroglio », sur Australian Financial Review,
- (en) « Before Altman's Ouster, OpenAI's Board Was Divided and Feuding », The New York Times, (lire en ligne, consulté le )
- (en) Camilla Hodgson et George Hammond, « Who were the OpenAI board members that sacked Sam Altman? », Financial Times,
- (en) Cam Wilson, « Who is Helen Toner? Meet the 30-something Australian OpenAI board member who voted out Sam Altman », sur Crikey, (consulté le )
- (en) Remco Zwetsloot, Helen Toner et Jeffrey Ding, « Beyond the AI Arms Race: America, China, and the Dangers of Zero-Sum Thinking », Foreign Affairs, États-Unis, Council on Foreign Relations, (ISSN 0015-7120 et 2327-7793, OCLC 473472887)
- (en) Helen Toner, Jenny Xiao et Jeffrey Ding, « The Illusion of China’s AI Prowess: Regulating AI Will Not Set America Back in the Technology Race », Foreign Affairs, États-Unis, Council on Foreign Relations, (ISSN 0015-7120 et 2327-7793, OCLC 473472887)
- (en) Paolo Confino, « OpenAI's 'unusual' board can make unilateral decisions without asking permission from anyone—like deep-pocketed backer Microsoft and Satya Nadella », sur Fortune, (consulté le )
- Andrew Imbrie, Owen Daniels, Helen Toner, Decoding Intentions: Artificial Intelligence and Costly Signals, (rapport), , [lire en ligne]
- (en) Blake Montgomery et Dani Anguiano, « OpenAI fires co-founder and CEO Sam Altman for allegedly lying to company board », The Guardian, (ISSN 0261-3077, lire en ligne, consulté le )
- (en) « OpenAI leaders warned of abusive behavior before Sam Altman’s ouster », sur Washington Post, (consulté le )
- (en) « Sam Altman Returns as OpenAI CEO in Chaotic Win for Microsoft », Bloomberg, (lire en ligne)
- (en) Richard Lawler, « Former OpenAI board member explains why they fired Sam Altman », sur The Verge, (consulté le )
