Les systèmes d'intelligence artificielle doivent présenter "des garanties en béton" pour éviter un "désastre", estime Stuart Russell, codirecteur de l'Association internationale pour une IA sûre et éthique (IASEAI).
Catégorie
🤖
TechnologieTranscription
00:00Qu'est-ce que c'est qu'une obligation spécifique ?
00:04On n'accepte pas que c'est l'obligation de l'enfant de faire ces décisions pour lui-même.
00:11Par exemple, avec la pornographie, s'ils n'aiment pas la pornographie, ils n'ont pas besoin de la regarder.
00:15Les questions qui sont plus inquiétantes sont vraiment autour de l'utilisation de l'IA dans les armes.
00:23On a des systèmes d'armes où l'IA qui contrôle ces systèmes d'armes décide qui attaquer, quand attaquer, etc.
00:36Présumablement, il serait en train d'opérer avec des instructions assez générales,
00:41comme attaquer et détruire tout ce qui bouge dans cette région, par exemple.
00:49Mais il peut aussi être utilisé dans des manières plus dangereuses et dangereuses.
00:56Par exemple, tuer quelqu'un qui correspond à la description suivante.
01:03Cette description peut être par âge, par gendre, par groupe ethnique, par affiliation religieuse, ou même par un individu particulier.
01:13Il semble raisonnable, particulièrement en ce qui concerne l'extinction humaine,
01:17qui peut résulter de systèmes d'IA qui sont beaucoup plus intelligents que les humains,
01:22et donc beaucoup plus capables d'affecter le monde, que nous sommes,
01:27de demander des garanties de casse d'iron.
01:32Pas seulement, nous faisons un effort, ou nous avons confiance, nous savons ce que nous faisons.
01:38Les gouvernements doivent nécessiter des garanties de casse d'iron,
01:44en forme d'évidence statistique ou de preuve mathématique,
01:50qui peuvent être inspectées, qui peuvent être vérifiées prudemment.
01:56Et rien d'autre que ça, c'est juste demander le désastre.
02:09Nous n'avons pas de table ronde.
02:12Nous n'avons pas de table ronde, parce que nous avons...
02:14Non, non, c'est une conférence.
02:15Nous avons trop de gens.
02:16Le sommet a une table ronde.
02:18Il y avait, au dernier compte, environ 75 pays qui avaient développé ou qui utilisaient des armes pilotées.
02:27Et je pense que la plupart d'entre eux sont en train de penser à comment les convertir en armes totalement autonomes.
02:34De l'autre côté, il y a plus de 100 pays qui ont déjà déclaré leur opposition aux armes autonomes.
02:41Et je pense qu'il y a une bonne chance qu'il y ait la majorité nécessaire dans l'Assemblée générale des Nations Unies
02:50pour avoir une résolution appelant à une banque.