L'intelligence artificielle est l'outil du moment. Avec son évolution rapide, des records ont été battus en peu de temps avec le phénoménal ChatGPT. Cependant, ses dirigeants estiment qu'il faut une instance internationale de régulation, semblable à celle qui régit l'énergie nucléaire. L'utilisation malveillante de l'outil pour créer de la désinformation et faux faux.
Dans un article sur le blog de l'entreprise, le fondateur d'OpenAI Sam Altman, le président Greg Brockman et le scientifique en chef Ilya Sutskever se sont réunis pour fournir plus de détails sur ce qui peut être fait.
voir plus
Google développe un outil d'IA pour aider les journalistes à…
L'iPhone original de 2007 non ouvert se vend à près de 200 000 $; savoir...
Que dit le billet de blog OpenAI ?
Les personnes qui dirigent OpenAI pensent que c'est maintenant le meilleur moment pour réfléchir à la soi-disant « gouvernance de la superintelligence ». La société croit fermement que la superintelligence - les systèmes d'IA dans les 10 prochaines années - sera beaucoup plus puissante que les autres technologies auxquelles l'humanité a eu affaire.
On dit que nous pouvons avoir un avenir nettement plus prospère, mais que nous devons savoir gérer les risques pour y arriver. Les auteurs commentent que, « étant donné la possibilité d'un risque existentiel, nous ne pouvons pas simplement être réactifs. UN énergie nucléaireest un exemple historique couramment utilisé d'une technologie avec cette propriété; la biologie synthétique est un autre exemple.
Il termine ses premières sections en déclarant que nous devons atténuer les risques de la technologie d'IA d'aujourd'hui, mais que la superintelligence nécessitera un traitement et une coordination particuliers.
Il poursuit en parlant de cette relation de la nécessité d'un organisme de réglementation, ainsi que de l'Agence internationale de l'énergie atomique déjà existante, des Nations Unies, l'ONU.
« Nous avons besoin d'un certain degré de coordination entre les principaux efforts de développement pour garantir que le développement du la superintelligence se produit d'une manière qui nous permet de maintenir la sécurité et d'aider à l'intégration harmonieuse de ces systèmes avec le société."
« Il est probable que nous aurons éventuellement besoin de quelque chose comme une [Agence internationale de l'énergie atomique] pour les efforts de superintelligence; tout effort dépassant un certain seuil de capacité (ou de ressources telles que le calcul) devra être soumis à une autorité internationale qui peut inspecter les systèmes, exiger des audits, tester la conformité aux normes de sécurité, imposer des restrictions sur les degrés de déploiement et les niveaux de sécurité, etc".
L'entreprise considère que la contribution du public est importante dans le processus
On dit que la gouvernance de systèmes puissants doit accompagner la surveillance publique. Je crois que les gens du monde entier devraient être habilités à décider démocratiquement quelles sont les limites et les normes de Systèmes d'IA L'entreprise précise qu'elle ne sait toujours pas comment concevoir un tel mécanisme, mais que son développement est en cours. planification.
Enfin, on souligne qu'il est risqué d'empêcher la création d'une superintelligence. Il met en évidence leurs avantages et le fait que le nombre d'acteurs qui les construisent augmente rapidement et fait intrinsèquement partie de la voie technologique. L'entreprise demande que les mesures soient exactes.
Pour accéder à la publication originale, cliquez sur ici.
