Inquiétude ! C’est le mot qui pourrait bien traduire le sens d’une pétition signée d’ores et déjà par un millier de personnes pour exiger un moratoire de six mois de tous les programmes de développement d’intelligence artificielle de niveau ChatGPT4 et plus !
(Cio mag) – A l’heure de la publication de cet article, ils étaient déjà 1125 à signer la pétition. Parmi eux, de grands noms comme Elon Musk de Twitter, Steve Wozniak, cofondateur d’ Apple, Jaan Tallinn de Skype, Max Tegmark de MIT Center for artificial intelligence en Fundamental interactions…plusieurs universitaires et scientifiques, spécialistes de l’IA.
Tous expriment la même inquiétude. « Les systèmes d’IA dotés d’intelligence humaine compétitive peuvent causer de graves risques pour la société et l’humanité », lit-on dans la pétition qui cite des recherches pour soutenir sa cause. Directement visés, tous les systèmes et programmes plus puissants que ChatGPT-4.
Les initiateurs de la pétition appellent à une suspension pour six mois de tous ces programmes. Il s’agit de faire une pause « publique et vérifiable » pour repenser le développement de l’IA.
Sécurité et gouvernance
Le moratoire de six mois exigé par la pétition devrait permettre de discuter des réglementations pour encadrer la course effrénée des développeurs de l’IA. La confiance, la transparence sont entre autres les garanties que demandent les signataires de la pétition. « Un recul par rapport à la course dangereuse vers des modèles (toujours plus grands avec des capacités émergentes) qualifiés de dangereux. La dynamique qui se met en place souhaite que les décideurs politiques soient davantage impliqués dans le développement des systèmes de gouvernance de l’IA robustes.
La pétition exige donc la mise en place de protocoles de sécurités pour la conception et le développement avancés d’IA, avec l’audit d’experts indépendants et externes aux laboratoires des entreprises porteuses des projets.
Cette sortie intervient au moment où le développement de l’IA commence par prendre une nouvelle dimension avec les derniers développements d’intelligence artificielle générative comme le ChatGPT de OpenAI. Depuis plusieurs semaines, des voix s’élèvent pour appeler à un développement centré sur l’humain face à ce qui paraît comme une volonté effréné de doter les machines d’une intelligence concurrente de celle de l’homme.
« Les systèmes d’IA contemporains deviennent désormais compétitifs pour les humains dans les tâches générales et nous devons nous demander si nous devrions laisser les machines inonder nos canaux d’information de propagande et de contrevérité », écrivent les initiateurs de la pétition.
Un débat qui s’annonce long durant l’été au cours duquel les signataires de la pétition exigent une trêve. Un débat également sur l’authentification de certains grands noms dont la signature de la pétition porte confusion et pour d’autres contestés (ndlr : la pétition est passé de 1125 à 1123 signature lors de l’édition de cet article). Mais un débat quand même sur le fond, le développement effréné des systèmes d’IA !
