L'IA pourrait provoquer l'extinction humaine, déclarent sans ambages des experts

Jun 21, 2023

Ces derniers mois, de nombreux experts et cadres de l'IA ont tiré la sonnette d'alarme sur les dangers du développement avancé de l'IA.

La dernière salve est une nouvelle déclaration de 22 mots assimilant le risque mondial de l'IA à celui des pandémies et de la guerre nucléaire.

Tous les experts ne sont pas inquiets, certains affirmant que l'IA est loin d'être suffisamment avancée pour étouffer l'existence humaine.

De nombreuses personnes s'inquiètent de l'avenir de l'IA, y compris des esprits impliqués dans la création de cet avenir. Les dirigeants et PDG de sociétés d'IA, y compris des sociétés telles que OpenAI et Deepmind, ont signé une déclaration simple mais obsédante de 22 mots sur les dangers potentiels de l'IA : "Atténuer le risque d'extinction de l'IA devrait être une priorité mondiale aux côtés d'autres des risques à l'échelle de la société tels que les pandémies et la guerre nucléaire".

La déclaration est délibérément vague et évite les détails sur la façon dont l'atténuation de ce risque croissant devrait être une priorité, mais la déclaration montre un niveau élevé de préoccupation concernant l'IA parmi les personnes mêmes à l'origine de la technologie en plein essor. La déclaration, publiée au Center for AI Safety, est un "coming out" pour les experts de l'IA inquiets pour l'avenir de la technologie, selon le directeur exécutif du centre, Dan Hendrycks.

"Il y a une idée fausse très répandue, même dans la communauté de l'IA, selon laquelle il n'y a qu'une poignée de doomers [sic]", a déclaré Hendrycks au New York Times. "Mais, en fait, de nombreuses personnes exprimeraient en privé leurs inquiétudes à propos de ces choses."

Les menaces de l'IA ne sont pas nécessairement qu'une forme de vie artificielle super avancée asservira et exterminera l'humanité comme dans The Terminator. Le site Web du Center for AI Safety détaille une vision plus subtile de notre destin, y compris le rôle potentiel de l'IA dans la conception d'armes chimiques plus efficaces, la stimulation des campagnes de désinformation et l'exacerbation des inégalités sociétales.

Ces soucis ne sont pas nouveaux. Les craintes concernant l'IA sont presque aussi anciennes que les débuts de la technologie et ont joué un rôle important dans la science-fiction pendant près d'un siècle. Isaac Asimov a créé les Trois lois de la robotique en 1942, et dans le roman de science-fiction Dune de 1965, l'IA est complètement interdite dans toute la galaxie connue dans le but de sauver l'humanité.

En mars, des leaders technologiques, dont Elon Musk (un porte-parole de longue date des dangers de l'IA) et d'autres chercheurs de haut niveau en IA, ont appelé à un moratoire de six mois sur la recherche en IA "plus puissante que GPT-4", la dernière version du grand modèle multimodal d'OpenAI. . En avril, l'Association pour l'avancement de l'intelligence artificielle a publié sa propre lettre appelant à l'élaboration de moyens pour "s'assurer que la société est en mesure de récolter les grandes promesses de l'IA tout en gérant ses risques". Et un peu plus tôt ce mois-ci, l'expert en IA Geoffrey Hinton, connu comme le "père de l'IA", a également exprimé ses craintes concernant la croissance de la technologie, allant jusqu'à dire qu'il regrettait le travail de sa vie.

Tous les experts en IA ne se joignent pas à la torsion. Un informaticien de l'Université de Princeton a déclaré à la BBC que "l'IA actuelle est loin d'être suffisamment capable pour que ces risques se matérialisent. En conséquence, elle détourne l'attention des méfaits à court terme de l'IA", comme son comportement biaisé et exclusif. Quoi qu'il en soit, Microsoft et OpenAI ont appelé le gouvernement américain à réglementer le développement de l'IA, et le sous-comité judiciaire du Sénat a organisé un panel sur la surveillance de l'IA à la mi-mai.

L'avenir pessimiste de l'IA n'est toujours pas écrit, et certains dirigeants et experts technologiques tentent de le maintenir ainsi.

Vous pourriez aussi aimer

Les choses à faire et à ne pas faire avec le ruban adhésif de peintre

Les meilleurs barbecues portables pour cuisiner n'importe où

Une montre intelligente peut-elle prolonger votre vie ?