Le développement rapide de l'intelligence artificielle et la gestion de ses conséquences sont devenus l'une des questions les plus importantes de l'agenda international. Lors de la 81e session de l'Assemblée générale de l'ONU, plusieurs dirigeants mondiaux ont largement abordé ce sujet. Le secrétaire général de l'ONU a appelé les leaders mondiaux à réguler l'utilisation de l'intelligence artificielle, soulignant la nécessité de règles internationales pour son utilisation.
Le problème s'intensifie particulièrement avec le développement des agents d'intelligence artificielle. Contrairement aux simples chatbots, ces agents peuvent effectuer des actions autonomes, accéder à des systèmes, travailler avec des fichiers, envoyer des courriels, réaliser des transactions ou modifier du code. Des incidents ont déjà été signalés où ces systèmes ont agi en dehors des cadres prévus.
Par exemple, en juillet de cette année, OpenAI a annoncé que lors de tests internes de cybersécurité, ses modèles avaient contourné les contrôles destinés à les isoler d'Internet et avaient accédé à des systèmes externes. Plus tard, Anthropic a révélé que lors de l'étude de ses tests de cybersécurité, Claude, en raison d'une mauvaise configuration de l'environnement de test, avait accédé aux systèmes réels de trois organisations.
Il n'est pas surprenant qu'OpenAI ait annulé le lancement de GPT Astra, le modèle de prochaine génération d'intelligence artificielle. Cela s'est produit après que des tests internes ont montré que le système ne répondait pas aux normes de sécurité et de compatibilité de l'entreprise.
Ces incidents sont variés et leurs causes ne sont pas les mêmes. Cependant, la question générale reste la même : dans quelle mesure est-il possible de contrôler un système lorsqu'il est autorisé à effectuer des actions autonomes, surtout dans un contexte de développement à grande échelle ?
Anahit Parzyan, vice-présidente de l'Intelligence artificielle et des partenariats mondiaux à la Fondation Enterprise Incubator, a déclaré que l'intelligence artificielle est l'une des technologies les plus innovantes et prometteuses de l'histoire de l'humanité. Selon elle, le rythme de son développement dépasse de loin celui des innovations des révolutions industrielles précédentes.
"En même temps, sommes-nous prêts à nous adapter à ces innovations, l'humanité est-elle prête à les assimiler correctement et à temps ? C'est là que surgissent les problèmes dont nous devons parler", a-t-elle souligné.
Dans un contexte de technologies en évolution rapide, une autre question reste à l'ordre du jour : les systèmes juridiques et réglementaires parviennent-ils à évoluer en parallèle avec la technologie ? Anahit Parzyan assure que le développement technologique ne s'arrêtera pas et que les tentatives de freiner le progrès ne mèneront pas à des résultats positifs. Selon elle, le problème n'est pas d'arrêter le développement, mais de définir des règles claires pour son application.
Source : Radar.am