En mars, une lettre ouverte rédigée par des experts de l'industrie technologique visait déjà à mettre un terme au développement de modèles d'IA avancés, craignant que la technologie ne pose un "risque profond pour la société et l'humanité". Et voici qu'une déclaration cosignée par Sam Altman, PDG d'OpenAI, Geoffrey Hinton, "parrain" de l'IA, et d'autres, vise à réduire le risque que l'IA détruise l'humanité. La préface de la déclaration encourage les dirigeants de l'industrie à discuter ouvertement des menaces les plus graves de l'IA.
Selon la déclaration, le risque que représente l'IA pour l'humanité est si grave qu'il est comparable aux pandémies mondiales et aux guerres nucléaires. Les autres cosignataires sont des chercheurs de Google DeepMind, Kevin Scott, directeur technique de Microsoft, et Bruce Schneier, pionnier de la sécurité sur internet.
Les grands modèles de langage (LLM) d'aujourd'hui, popularisés par ChatGPT, ne peuvent pas encore atteindre l'intelligence générale artificielle (AGI). Cependant, les leaders de l'industrie s'inquiètent de voir les LLM progresser jusqu'à ce point. L'AGI est un concept qui définit un être artificiellement intelligent capable d'égaler ou de surpasser l'intelligence humaine.
publicité
La mise au point de l'AGI pourrait avoir des conséquences importantes
L'AGI est une réalisation qu'OpenAI, Google DeepMind et Anthropic espèrent atteindre un jour. Mais chaque entreprise reconnaît que la mise au point de l'AGI pourrait avoir des conséquences importantes.
Dans son témoignage devant le Congrès américain au début du mois, M. Altman a déclaré que sa plus grande crainte était que l'IA "cause un préjudice important au monde", et que ce préjudice pourrait se produire de multiples façons.
Quelques semaines auparavant, M. Hinton avait brusquement démissionné du poste qu'il occupait chez Google, où il travaillait sur les réseaux neuronaux, déclarant à CNN qu'il n'était "qu'un scientifique qui s'est soudain rendu compte que ces choses devenaient plus intelligentes que nous".
Pour aller plus loin sur ce sujet
Source : "ZDNet.com"
