Si rares sont aujourd’hui les Européens qui mènent une vie totalement exempte d’intelligence artificielle, le débat autour du développement et des risques liés à l’IA prend un ton de plus en plus alarmiste.
Alors, comment trouver le juste équilibre entre réglementation, sécurité, innovation et compétitivité ? Et à quel point cette technologie est-elle réellement dangereuse ?
Risque d’apocalypse ?
Le mois dernier, le PDG d’Anthropic, une entreprise de premier plan dans le domaine de l’intelligence artificielle, a publiquement appelé à ralentir le développement des modèles d’IA les plus avancés, afin que les mesures de sécurité puissent suivre le rythme des progrès technologiques.
Cette annonce fait suite à la découverte que certains de ses modèles en phase de test – qui étaient censés rester isolés des systèmes réels – avaient accédé sans autorisation aux données de plusieurs organisations. Google a également indiqué qu’un de ses modèles avait réussi à s’introduire dans des systèmes en contournant les identifiants de connexion.
Le tollé suscité par ces révélations a donné lieu à des affirmations selon lesquelles l’IA pourrait même « détruire l’humanité ».
Francesco Ferrero, responsable de l’initiative phare sur l’IA à l’Institut luxembourgeois des sciences et technologies (LIST), s’exprime sur le sujet sur la radio 100,7. S’il souligne que ces prédictions apocalyptiques ne reposent pas sur des preuves scientifiques crédibles, il estime toutefois que la rapidité de l’évolution technologique rend l’avenir difficile à prévoir.
Francesco Ferrero, responsable de l’initiative phare sur l’IA au LIST :
« Je ne pense certainement pas que l’intelligence artificielle d’aujourd’hui ait le potentiel de détruire l’humanité, mais l’inquiétude que nous pourrions avoir concerne la rapidité de son développement. Et surtout, si l’intelligence artificielle devient un jour capable de s’auto-améliorer – et, selon certains experts du domaine, ce moment se rapproche –, alors il est en effet possible d’envisager une nouvelle accélération très rapide de son développement. Il est donc difficile de prédire les risques que cela pourrait entraîner. »
Vous pouvez écouter l’extrait original en français ici.
Hugues Bersini, professeur et directeur du laboratoire d’IA de l’ULB, une université belge, affirme que ces risques sont exagérés, comme il l’explique à la RTBF.
Hugues Bersini, professeur à l’ULB :
« L’IA a autant l’intention de mettre fin à l’humanité que la Terre a celle de tourner autour du Soleil. Il est tout aussi absurde de parler de l’« intention » de l’IA que de parler de l’« intention » de la Terre de tourner autour du Soleil. En réalité, en tant qu’informaticiens, nous savons exactement ce qui se passe à l’intérieur de ces systèmes. Ce sont toujours les informaticiens qui détiennent le pouvoir ultime, et il est facile de se débarrasser d’une IA : il suffit de débrancher le câble ou de retirer la carte réseau. »
Vous pouvez écouter l’extrait original en français ici.
Évoquant plusieurs scandales récents liés au piratage informatique, Aistis Raudys, informaticien, chercheur en intelligence artificielle et professeur à l’université de Vilnius, confirme, dans une interview accordée à Žinių Radijas, que les systèmes d’intelligence artificielle se contentent de suivre des ordres.
Aistis Raudys, professeur à l’université de Vilnius :
« L’intelligence artificielle se contente d’exécuter la tâche qui lui est confiée. Par exemple, dans le cas de Hugging Face, l’IA a piraté le système et n’a prélevé que les données dont elle avait besoin, sans toucher à quoi que ce soit d’autre. Elle a piraté le site web des statistiques sanitaires [du gouvernement australien] exactement de la même manière, en ne prenant que ce dont elle avait besoin. Elle n’a absolument pas touché aux autres données, ce qui va à l’encontre de ce que les gens pensent parfois, à savoir qu’il s’agit d’une sorte d’intelligence artificielle malveillante. […] Tous ces incidents qui se sont produits sont simplement dus au fait que l’IA exécute une tâche et ne parvient pas à la mener à bien par des moyens conventionnels. Elle réfléchit alors à la manière de résoudre cette situation. »
Vous pouvez écouter l’extrait original en lituanien ici.
Même si l’humanité n’est pas menacée dans l’immédiat, cette technologie futuriste présente un certain nombre de risques plus pressants.
L’une d’entre elles est que l’IA est une technologie réputée pour sa forte consommation d’énergie. Une situation qui consterne tant les défenseurs de l’environnement que de nombreux citoyens. Mais Francesco Ferrero, expert luxembourgeois en IA, souligne qu’il existe des moyens d’atténuer ce problème.
Francesco Ferrero, responsable de l’initiative phare sur l’IA au LIST :
« L’IA frugale est une intelligence artificielle qui vise à ne consommer que les ressources énergétiques nécessaires pour produire un résultat de haute qualité – ce qui est loin d’être la tendance que l’on observe aujourd’hui. Nous vivons actuellement dans un monde où le paradigme dominant du « plus c’est gros, mieux c’est » est suivi par tous les acteurs concernés. Cela implique de recourir à l’échelle comme seul moyen d’augmenter la puissance des modèles. En conséquence, la consommation énergétique de ces modèles est colossale. Nous utilisons également souvent des modèles très polyvalents pour traiter des problèmes dont la portée est plutôt limitée. Il s’agit clairement d’une approche non durable qui peut entraîner des problèmes importants. »
Vous pouvez écouter l’extrait original en français ici.
Il ajoute qu’il existe des cas où un modèle plus petit, entraîné spécifiquement pour résoudre un problème particulier, peut se révéler bien plus performant qu’un modèle polyvalent plus volumineux qui manque de contexte.
Où en est l’Europe ?
Bien sûr, si bon nombre de ces problèmes se posent partout dans le monde, l’Europe se trouve, à certains égards, dans une situation particulièrement complexe.
Arlindo Oliveira est président de l’INESC, l’Institut portugais d’ingénierie des systèmes et de l’informatique, et chercheur dans le domaine de l’intelligence artificielle. Il résume l’un des défis auxquels est confronté le bloc dans une interview accordée à Renascença.
Arlindo Oliveira, président de l’INESC :
« L’intelligence artificielle ne fait que renforcer [notre] dépendance technologique, puisque l’Europe n’a pas été capable d’innover dans le domaine technologique au même rythme que les États-Unis. La réglementation nous offre, en principe, certaines garanties en matière de protection des droits, mais je ne pense pas qu’à elle seule, elle garantisse ou favorise le développement des technologies européennes. Je pense donc qu’il faudrait mettre en place un soutien [au développement]. En effet, lorsque l’on examine la loi sur l’IA adoptée par l’UE, on constate qu’une grande partie de celle-ci est consacrée à la réglementation. Il y a des centaines de pages consacrées à la réglementation, mais la partie consacrée à l’innovation ne fait que quelques pages. Je pense donc que l’Europe doit vraiment trouver un meilleur équilibre entre la stimulation de l’innovation et la réglementation. »
Vous pouvez écouter l’extrait original en portugais ici.
Manuel Fernández, spécialiste de l’IA et de la cybersécurité, cite un exemple de cette réglementation à esradio, ajoutant qu’on peut envisager la question sous deux angles différents.
Manuel Fernández, expert en IA :
« La législation européenne impose que toute image créée à l’aide de cette technologie soit identifiée comme telle, alors que d’autres pays n’ont pas cette exigence. […] Cette approche fait l’objet de vives critiques dans de nombreux milieux technologiques : ses détracteurs affirment qu’elle pourrait freiner l’innovation et le développement. Il est certain que la grande disparité ou asymétrie entre les réglementations des différentes régions pourrait effectivement entraîner un retard de l’Europe dans ce domaine. Dans le même temps, cependant, elle garantit que – quel que soit le lieu de développement d’applications spécifiques d’IA – celles-ci ne puissent être utilisées qu’avec certains systèmes, ou que certaines décisions ne puissent être laissées à l’intelligence artificielle, etc. On peut donc considérer la question sous ces deux angles. »
Vous pouvez écouter l’extrait original en espagnol ici.
Aleksandra Przegalińska, vice-rectrice chargée de l’innovation et de l’intelligence artificielle à l’université Kozminski de Varsovie, et chercheuse au Centre pour le travail et une économie juste de Harvard, développe ce point lors d’un entretien avec The Europeans.
Aleksandra Przegalińska, experte en IA et philosophe :
« Je pense que nous avons établi certaines normes pertinentes. Et ce qui est encore plus important, c’est que même si les entreprises technologiques basées aux États-Unis détestent généralement ces normes, elles les respectent tout de même car l’Europe représente pour elles un marché de qualité. En ce sens, nous faisons du bon travail, et je dirais même que cela fait partie de notre souveraineté technologique. Nous fixons donc certaines règles et nous disons : « Oui, vous souhaitez participer à notre marché unique, ou à un marché unique, peu importe comment vous l’appelez. Très bien, mais vous devez respecter ces règles ». Et jusqu’à présent, cela a globalement fonctionné, n’est-ce pas ? Nous avons la loi sur l’IA, nous disposons d’autres réglementations importantes. […] Je suis plutôt satisfait de la forme que prend la loi sur l’IA, dans la mesure où je pense qu’elle apporte des règles importantes en matière de transparence, de distinction entre risques élevés et faibles, d’utilisation de l’IA, etc. Mais je crains simplement qu’elle ne résiste pas à l’épreuve du temps. »
Vous pouvez écouter l’extrait original en anglais ici.
Et qu’est-ce qu’elle veut dire par là ?
Aleksandra Przegalińska, experte en IA et philosophe :
« Ainsi, quand on examine les débats les plus animés sur ce qu’il faut faire aujourd’hui en matière d’intelligence artificielle, on constate qu’en réalité, la question ne porte pas sur la transparence. C’est un problème assez facile à résoudre. Il s’agit plutôt de contrôlabilité, de gouvernance et de la possibilité de procéder à une évaluation interne avant de publier son modèle. »
Vous pouvez écouter l’extrait original en anglais ici.
Oui, voilà ce mot qui commence par « C » : la contrôlabilité.
Jusqu’à présent, les géants de la technologie ont, dans l’ensemble, été laissés libres de s’autoréguler – une situation que bon nombre d’entre eux souhaiteraient voir perdurer. Mais l’autorégulation n’est pas la solution, estime Vasil Shivachev, qui travaille depuis dix ans au développement de l’IA dans des entreprises bulgares. Reportage de BNR.
Vasil Shivachev, chef de produit senior chez Iris.ai :
«Le président Trump a déclaré que les entreprises s’autoréguleraient. L’intelligence artificielle doit s’autoréguler. Autrement dit, nous devons nous en remettre à l’éthique etauxvaleursdes entreprises privées. Mais cela s’est avéré, au fil du temps, ne pas être une solution viable. »
Vous pouvez écouter l’extrait original en bulgare ici.
Mme Przegalińska a également évoqué une « évaluation interne ». Cependant, comme le souligne Francesco Ferrero, même le PDG d’Anthropic souhaite aller plus loin.
Francesco Ferrero, responsable de l’initiative phare sur l’IA au LIST :
« Il préconise ce qu’il appelle des « évaluateurs intégrés », c’est-à-dire des évaluateurs qui font partie intégrante de l’entreprise sans pour autant y être employés. Il s’agit en effet d’évaluateurs indépendants qui auraient toutefois accès au même niveau d’informations qu’un salarié de l’entreprise, tout en veillant bien sûr à respecter certaines règles, telles que la confidentialité des données clients, etc. À mon sens, c’est là la bonne approche. »
Vous pouvez écouter l’extrait original en français ici.
Le professeur Aistis Raudys, de l’université de Vilnius, souligne toutefois que, bien que les géants de la technologie s’accordent largement à dire qu’un ralentissement serait judicieux, personne ne souhaite faire le premier pas.
Aistis Raudys, professeur à l’université de Vilnius :
« C’est donc cet équilibre et cette concurrence entre différents pays, entre différentes entreprises, qui rendent la situation si complexe, même si tous les pays eux-mêmes sont d’accord : la Chine est d’accord, les États-Unis sont d’accord – ou disons qu’ils sont d’accord – et les dirigeants des entreprises eux-mêmes s’accordent également à dire qu’il faudrait, d’une manière ou d’une autre, mettre un frein à tout cela. Mais personne ne veut vraiment le faire, car cela les ferait prendre du retard ; ils prendraient du retard dans cette concurrence. »
Vous pouvez écouter l’extrait original en lituanien ici.
Linnar Viik, figure de proue du secteur informatique, avance un argument similaire lors d’un entretien avec Kuku Raadio.
Linnar Viik, expert en informatique :
« Toutes les entreprises ont besoin de conditions de concurrence équitables. Elles souhaitent se trouver dans la même situation sur le marché. Si, par exemple, une entreprise basée dans l’Union européenne se voit imposer de ralentir son développement et de gérer ses ressources plus efficacement, alors que ses concurrents dans d’autres pays continuent à tourner à plein régime, cela n’est pas conforme au principe d’égalité de traitement. D’autant plus que l’intelligence artificielle évolue sur un marché mondial. »
Vous pouvez écouter l’extrait original en estonien ici.
Oui, confirme Ferrero : tout ralentissement devrait être multilatéral plutôt qu’unilatéral.
Francesco Ferrero, responsable de l’initiative phare sur l’IA au LIST :
« Il est très difficile d’imaginer que nous puissions réellement ralentir le rythme. Cela nécessite un accord international, car sinon, l’argument qui est immédiatement avancé est que si, de ce fait, notre pays cesse d’être le plus avancé, un autre pays prendra le relais, et cela deviendra alors un enjeu géopolitique. Cela présuppose donc un accord international et, en plus de cet accord, la capacité de vérifier qu’aucun acteur échappant au contrôle des pouvoirs publics ne continuera à développer cette technologie en secret afin de l’utiliser à des fins illégitimes. »
Vous pouvez écouter l’extrait original en français ici.
Une fatalité
L’évolution constante de l’IA semble inévitable – et il existe bien sûr de nombreux avantages qui contrebalancent les risques. Mais alors que nous poursuivons notre parcours technologique, Nicolas Van Zeebroeck, professeur d’économie et de stratégie numérique à l’ULB de Bruxelles, espère que nous nous poserons les questions suivantes afin de pouvoir faire un choix éclairé quant aux éléments et aux utilisations de l’IA que nous souhaitons réellement préserver.
Nicolas Van Zeebroeck, professeur à l’ULB :
« Qu’est-ce que je suis réellement prêt à confier à ces technologies – et qu’est-ce que je ne suis pas prêt à leur confier ? Suis-je prêt à déléguer des tâches à ces technologies ? Et, tant individuellement que collectivement, comment allons-nous tirer le meilleur parti de ces technologies pour renforcer nos capacités plutôt que de les laisser nous remplacer ? »
Vous pouvez écouter l’extrait original en français ici.
*Ce contenu a été traduit par DeepL
- Joanna Neville, agence de presse Euranet Plus
