OpenAI appelle à une réglementation mondiale pour prévenir les dangers potentiels de l’IA et garantir la sécurité de l’humanité
OpenAI, l’entreprise à l’origine de GPT-4 et ChatGPT, exhorte à une régulation mondiale de l’intelligence artificielle (IA) afin de prévenir les risques liés à une « superintelligence ». Les cadres d’OpenAI, Sam Altman, Greg Brockman et Ilya Sutskever, soulignent la nécessité d’un encadrement strict de l’IA et appellent à la création d’une autorité internationale chargée d’auditer les systèmes d’IA et de veiller à leur conformité aux normes de sécurité.
Les risques d’une « superintelligence »
Selon les dirigeants d’OpenAI, la « superintelligence » représente un risque comparable à celui de l’énergie nucléaire. Ils affirment que cette forme d’IA pourrait dépasser les compétences des experts dans de nombreux domaines et être plus productive que les plus grandes entreprises. Ils mettent en garde contre un risque « existentiel » pour les sociétés humaines.
La nécessité d’une réglementation transnationale
Pour atténuer ces dangers, les auteurs de la note d’OpenAI appellent à une réglementation stricte. Ils suggèrent la création d’une autorité internationale chargée de l’audit des systèmes d’IA et de l’application de normes de sécurité. Cependant, les détails sur la mise en place de cette régulation restent flous, notamment en ce qui concerne l’entité responsable de l’élaboration des règles.
L’importance de la sécurité dans le développement de l’IA
Les cadres d’OpenAI reconnaissent que l’arrivée d’une « superintelligence » est inévitable. Ils estiment qu’il serait risqué et complexe d’arrêter le développement de tels systèmes, mais soulignent la nécessité d’une surveillance mondiale pour assurer leur sécurité. Ils plaident pour un projet démocratique impliquant les citoyens du monde entier dans la réglementation de l’IA.
Des enjeux financiers et économiques
Bien que la régulation de l’IA puisse sembler être une question d’éthique, certains experts suggèrent que l’appel d’OpenAI à une réglementation mondiale est également une stratégie économique. En raison de réglementations nationales fragmentées, l’entreprise devrait ajuster ses modèles d’IA pour se conformer aux différentes règles de chaque pays. Cependant, cela pourrait également entraîner des défis et des conséquences économiques pour OpenAI.
article 29 mai 2023par SparkL AI
