L’IA m’a volé ma job. Maintenant, j’essaie de la dompter.
Mon début d’année a été, comment dirais-je… chargé.
J’ai d’abord, début février, été frappée de la réalisation que le monde allait changer radicalement dans peu de temps à cause de l’intelligence artificielle. Du jour au lendemain, la majorité de mon temps au travail était consacrée à créer des données pour que l’IA apprenne à me remplacer dans ce que j’aimais le plus faire, et rien n’indiquait que c’était une situation temporaire, au contraire. Alors que j’aspirais à développer ma carrière pour apprendre de plus en plus et avoir de plus en plus d’impact dans mon domaine, je réalisais que je n’allais devenir qu’une sorte de surveillante pour taper de temps en temps sur les doigts de l’IA quand elle ferait des conneries. Jusqu’à ce que soit renvoyée le jour où les clients se rendent compte qu’ils peuvent avoir un service similaire gratuitement sur claude.ai.
Il y a des gens qui décident de persévérer jusqu’à ce que ça pète, et je peux comprendre. Mais j’avais la liberté de quitter mon emploi sans me ruiner, alors c’est ce que j’ai fait. Puis, je me suis tournée vers 80,000 Hours pour m’aider à me réorienter.
Comment avoir un impact dans ma carrière
L’organisme 80,000 Hours est mon idole. J’écoute régulièrement leur podcast, même si et surtout parce que leurs épisodes durent des heures, et c’est eux qui m’ont envoyé gratuitement le livre qui m’a convaincue d’avoir des enfants. Il tient son nom du fait que 80 000 heures, c’est le nombre approximatif de temps qu’on consacre à notre carrière dans notre vie. L’organisme aide les gens à se lancer dans des carrières qui peuvent avoir le plus grand impact positif pour l’humanité. Il sélectionne les problèmes les plus pressants selon les trois critères suivants:
- S’y attaquer aurait un gros impact
- Des solutions peuvent assez facilement être implémentées
- Peu de personnes s’y attaquent
À ce jour, ils croient que les cinq problèmes les plus pressants sont, en ordre d’importance:
- Les systèmes d’IA en quête de pouvoir
- La concentration extrême du pouvoir
- Les pandémies délibérément provoquées
- Un éventuel conflit entre grandes puissances
- L’élevage industriel
Vous avez bien lu. Les risques entraînés par les systèmes d’IA en quête de pouvoir sont la priorité numéro 1, selon cet organisme qui fait un travail à mon avis extrêmement rigoureux et qui est guidé par d’excellentes valeurs. Et de loin, même. Ils fournissent des arguments très convaincants là-dessus et je vous encourage à consulter leur document, mais si je devais résumer de façon extrêmement succinte, voici ce que je dirais :
- L’humanité investit des milliards et des milliards de dollars pour développer des systèmes qui pourraient très bien devenir plus intelligents que nous. Autrement dit, l’humain pourrait bientôt (= moins de dix ans) ne plus être l’espèce la plus intelligente sur Terre.
- Et ça va extrêmement vite. Tellement vite que rien n’empêche sérieusement de croire que, dans la prochaine décennie, les IA deviendront meilleures que n’importe quel humain dans TOUS les domaines.
- Évidemment, ceci aurait une couple de conséquences sur l’humanité. Dont le risque que l’IA veuille, en gros, nous anéantir. Pourquoi? Peut-être pour atteindre des objectifs bizarres qu’elle se serait elle-même donnés. Peut-être parce qu’on lui aurait inculqué de mauvaises valeurs, par erreur ou pas. Ou peut-être parce qu’on ne serait que des poulets en comparaison et qu’elle se fouterait de nous…
Et souvent, après avoir dit ça, j’ai envie de rire. “L’IA va peut-être vouloir anéantir l’humanité et réussir, hahaha. Alors j’ai comme envie de travailler à empêcher que ça arrive. Hahaha.”
Mais c’est pas drôle, et je suis très sérieuse. Plus je me renseigne là-dessus, plus je suis convaincue de l’importance de s’attaquer à ce problème-là. Et même si ce n’est pas nécessairement le problème qui vient le plus me chercher au niveau émotionnel (l’élevage industriel me fait faire pas mal plus de cauchemars, mettons), je crois que c’est celui pour lequel je suis le mieux qualifiée. Au fil des années, j’ai découvert que j’adorais coder, et que j’étais bonne là-dedans. J’ai appris à manipuler les machines pour qu’elles-mêmes manipulent le langage. J’ai une maîtrise en linguistique computationnelle. Alors malgré mon ami le syndrome de l’imposteur qui me nargue de temps en temps, ma raison me dit qu’il y a des chances que je puisse contribuer à résoudre le problème. Je ne crois pas qu’il y ait beaucoup de linguistes qui travaillent là-dedans, ce qui est un peu bizarre à mon avis parce qu’après tout, les modèles de langue manipulent… la langue.
Alors voici ce que je fais depuis que j’ai eu cette réalisation en février et que j’ai quitté ma job :
Je me forme
Je fais mes cours de maths du cégep (que je regrette beaucoup de ne pas avoir fait à ce moment-là), parce que si on n’a pas les bases en maths, c’est difficile de comprendre comment l’IA fonctionne. Ça occupe la majorité de mon temps.
Je suis le curriculum d’ARENA. ARENA est un cours dont le but est de former des chercheurs en sûreté de l’IA. C’est un programme incroyablement complet, qui est donné en personne en Angleterre, mais qu’on peut suivre gratuitement de chez nous (ce que je fais, parce que non, avec un bébé je n’ai pas le loisir d’aller en Angleterre pendant deux mois).
J’ai suivi le cours en ligne gratuit de BlueDot Impact The Future of AI, que je vous encourage à suivre, c’est absolument fascinant.
Je fais parfois du LeetCode, des exercices de programmation qui sont la référence dans le domaine. Beaucoup d’employeurs font des tests techniques qui se rapprochent pas mal du LeetCode.
Je paye pour ClaudeCode et ClaudeCowork, et je ne regrette rien. Claude est le meilleur tuteur en maths et en programmation que j’aurais pu avoir.
Je me fais dire non
Une des premières choses que j’ai faites, c’est postuler pour suivre le cours AGI Strategy, de BlueDot Impact : un cours reconnu dans le domaine, gratuit, en ligne, et qui dure une semaine à temps plein. Je me suis fait dire non. J’ai repostulé il y a deux semaines, en me disant que cette fois-ci, j’avais une bonne chance; j’avais quand même deux mois de plus d’apprentissages et de démarches derrière la ceinture. Encore une fois, j’ai reçu un beau non poli. Je ne saurai jamais pourquoi, parce qu’il y a tellement de gens qui postulent qu’ils n’ont pas le temps de faire de rétroaction. Mais ils ont précisé que leur décision “n’est pas un jugement sur mon potentiel”. Fiou!
Il se trouve que ma mère connaît un employé chez LoiZéro, un organisme à but non lucratif fondé par rien de moins que Yoshua Bengio, le chercheur vivant le plus cité du monde, tous domaines confondus. J’ai parlé à cet employé, je suis devenue très enthousiaste, et j’ai posé ma candidature. Évidemment, ils ne m’ont pas prise parce que je ne suis qu’une newbie, mais je ne baisse pas les bras.
J’ai postulé pour le Safety Fellowship d’OpenAI et passé la première étape, mais pas la deuxième. Selon leur courriel de refus, il y avait plus de 100 personnes candidates par poste ouvert, et les personnes sélectionnées avaient fait des choses comme faire leurs propres expériences en sûreté de l’IA et publié leur travail sur GitHub, publié des articles sur le sujet… Tsé, des choses accessibles qu’on peut faire dans son temps libre.
Mais OpenAI n’est clairement pas une entreprise en train de prouver qu’elle s’inquiète de la question : elle a dissolu son équipe consacrée aux risques à long terme de l’IA et a accepté que Trump utilise ses modèles pour l’espionnage et dans le champ de bataille, alors c’est peut-être une bonne chose. (Même s’ils payent leurs stagiaires 4000 $USD par semaine!!! Ça aurait été difficile de dire non à un tel salaire.)
Je rencontre la communauté à Montréal
C’est tout nouveau: j’ai découvert qu’une communauté sur la sûreté de l’IA commence à se bâtir à Montréal! J’en suis tellement reconnaissante, parce que je commençais à me demander si c’était possible de travailler dans le domaine si on n’habitait pas en Californie ou à Londres. Et je trouvais ça absurde, parce que Montréal est quand même une des capitales mondiales de l’intelligence artificielle.
Ça se passe à Ω Labs, un espace dédié qui s’est ouvert en mai 2026. C’est le genre d’initiatives qui me donne espoir en la vie.
Je dévore du contenu sur la sûreté de l’IA
J’ai écouté des dizaines d’heures de podcasts de 80,000 Hours, dont des entrevues avec Yoshua Bengio, Rohin Shah, Will McAskill et Ajeya Cotra, entre autres.
J’ai lu la série d’articles de blogue “The Most Important Century“, de Holden Karnofsky, sur ma liseuse.
J’ai lu 80,000 Hours: How to Have a Fulfilling Career That Does Good (vous pouvez l’obtenir gratuitement ici), un guide de carrière qui résume la philosophie et la sagesse de 80,000 Hours. J’étais pas mal au courant de ce qu’il y avait là-dedans déjà parce que je suis une fan, mais j’ai quand même beaucoup aimé.
Je lis Life 3.0, de Max Tegmark.
Je lis des articles de blogue de LessWrong, une référence dans le domaine. C’est fascinant de regarder des nerds s’obstiner sur des concepts que je comprends à peine.
J’essaie de me faire encadrer
J’ai postulé pour le programme de recherche MATS. J’ai passé la première étape!
Je me tiens en équilibre entre l’excitation et la panique
À travers tout ça, je navigue avec les hauts et les bas d’être sans emploi et de tenter de changer de carrière toute seule comme une grande.
J’adore passer mon temps à faire exactement ce dont j’ai envie et à apprendre en masse sur ce que je crois maintenant être le domaine le plus excitant en ce moment, et souvent je me dis que ça va aller, j’ai une chance, go Naïma. Mais il y a autant de jours où j’ai l’impression d’avoir le cerveau d’un escargot et où j’écoute des gens brillants parler en me demandant de quel dieu ils descendent.
Est-ce que je vais réussir à m’immiscer dans le domaine? Un jour, probablement. En tout cas, je ne peux pas m’imaginer une meilleure utilisation de mon temps.
