Un expert en IA prévient que « le sort de l’univers est en jeu »

Spread the love

Un expert en IA prévient que

L'intelligence artificielle progresse rapidement (Photo : Getty)

Un expert en intelligence artificielle (IA) a averti qu'il n'y a aucune preuve que la technologie puisse être contrôlée – et ne devrait donc pas être développée.

< p>Le Dr Roman Yampolskiy a mené une étude approfondie du logiciel pour découvrir comment il pourrait remodeler la société, et a déclaré que cela ne serait pas toujours à notre avantage.

« Nous sommes confrontés à un événement presque garanti susceptible de provoquer une catastrophe existentielle », a déclaré le Dr Yampolskiy.

« Pas étonnant que beaucoup considèrent qu’il s’agit du problème le plus important auquel l’humanité ait jamais été confrontée. L'issue pourrait être la prospérité ou l'extinction, et le sort de l'univers est en jeu.'

Il a déclaré que la capacité des humains à produire des logiciels intelligents dépasse de loin notre capacité à contrôler l'IA – et qu'il n'existe aucun système intelligent avancé. pourra jamais être entièrement contrôlé.

« Pourquoi tant de chercheurs supposent-ils que le problème du contrôle de l’IA peut être résolu ? » a-t-il demandé. « À notre connaissance, il n’y a aucune preuve de cela, aucune preuve. Avant de se lancer dans une quête visant à construire une IA contrôlée, il est important de montrer que le problème peut être résolu.

'Ceci, combiné aux statistiques qui montrent que le développement de la superintelligence de l'IA est un événement presque garanti, montrent que nous devrait soutenir un effort important en matière de sécurité de l'IA.'

Un expert en IA prévient que 

Les humains développent l'IA, mais elle pourrait bientôt dépasser notre intelligence (Photo : Getty/Science Photo Libra)

L'un des problèmes avancés par le Dr Yampolskiy est qu'à mesure que l'IA devient plus intelligente, il y aura un un nombre infini de problèmes de sécurité. Il sera alors impossible de tous les prévoir, et les garde-corps existants pourraient ne pas suffire.

Il a également ajouté que l'IA ne peut pas toujours expliquer pourquoi elle a décidé quelque chose – ou que les humains ne sont pas toujours capables de comprendre son raisonnement – ​​ce qui peut rendre plus difficile la compréhension et la prévention de problèmes futurs.

Plus de tendances

Un expert en IA prévient que

Où sont-ils tous ? Sept raisons pour lesquelles nous n'avons toujours pas trouvé d'extraterrestres

Un expert en IA prévient que

Vous ne devez plus mettre votre téléphone dans le riz si vous le laissez tomber dans l'eau

Un expert en IA prévient que 

Les utilisateurs d'Amazon Fire Stick ont ​​trouvé une astuce géniale pour contrôler leur téléviseur

Un expert en IA prévient que

Les loups mutants de Tchernobyl possèdent désormais des gènes anticancéreux

Lire plus d'histoires

« Si nous nous habituons à accepter les réponses de l'IA sans explication, en la traitant essentiellement comme un système Oracle, nous ne serions pas en mesure de dire si elle commence à fournir des réponses fausses ou manipulatrices », a déclaré le Dr Yampolskiy, qui a mené la révision de son nouveau livre. , IA : inexplicable, imprévisible, incontrôlable.

Cependant, l'un des éléments les plus préoccupants de l'IA est son autonomie croissante. À mesure que la capacité de l’IA à penser par elle-même augmente, le contrôle que les humains exercent sur elle diminue. La sécurité aussi.

«Les agents moins intelligents – les personnes – ne peuvent pas contrôler en permanence les agents plus intelligents (ASI), a déclaré le Dr Yampolskiy. « Ce n’est pas parce que nous ne parviendrons pas à trouver une conception sûre pour la superintelligence dans le vaste espace de toutes les conceptions possibles, c’est parce qu’une telle conception n’est pas possible, elle n’existe pas.

« La superintelligence ne se rebelle pas, elle est incontrôlable au départ. »

Pour minimiser les risques liés à l'IA, le Dr Yampolskiy a déclaré que les utilisateurs devront accepter des capacités réduites, et que l'IA doit avoir options d'annulation intégrées dans un langage humain facile à comprendre.

« L'humanité est confrontée à un choix », a-t-il déclaré. « Devenons-nous comme des bébés, pris en charge mais sans contrôle, ou refusons-nous d'avoir un tuteur utile mais restons responsables et libres ? »

PLUS : Quelqu'un a essayé de résoudre les guerres en utilisant l'IA, mais il n'y est pas parvenu. Cela ne finira pas bien pour l'humanité

PLUS : L'intelligence artificielle présente un « risque d'extinction », préviennent les experts

PLUS : Non, l'IA ne va pas mettre fin à l'humanité comme dans Terminator, dit Monsieur Tony Blair

Previous Article
Next Article

Laisser un commentaire

Votre adresse courriel ne sera pas publiée. Les champs obligatoires sont indiqués avec *