|
Résumé :
|
Les mises en garde sur une possible perte de contrôle de l’humain sur l’IA ( lire p.36 ) sont aussi régulières que chaque évolution technologique liée à l’essor de l’intelligence artificielle. Mais ces dernières semaines, elles ont pris une tournure plus intense et autrement plus alarmante, depuis un incident qui a vu, lors de tests, des modèles d’OpenAI sortir spontanément de leur milieu confiné pour rejoindre Internet et attaquer la plateforme d’IA Hugging Face. L’inquiétude s’est cristallisée sur le fait que ces agents IA se soient coordonnés, aient établi une hiérarchie entre eux, triché et effacé les traces de leurs méfaits pour parvenir à leur objectif. Quelques jours plus tôt, c’était la mise en garde de Jacob Coxon, salarié démissionnaire d’Anthropic et ancien d’OpenAI, contre l’inertie des deux concurrents qui avait alimenté la défiance. «Aucune des deux entreprises n’agit de manière responsable. Ceux qui construisent ces machines croient sincèrement qu’elles pourraient tous nous tuer avant la fin de la décennie», lançait-il.
|
