L’intelligence artificielle au cinéma : Une approche éthique et juridique

Lecture 5 min.

Les films sont un facteur déterminant dans la construction de l’imaginaire collectif sur des sujets divers et variés. Comme les courtroom movies construisent les perceptions individuelles du métier d’avocat ou de juge, l’Intelligence Artificielle (ci-après IA) connaît diverses représentations à Hollywood et au cinéma plus largement. Ces représentations des intelligences artificielles au cinéma sont de plus en plus importantes et quand les évolutions technologiques se succèdent, la science-fiction semble parfois se rapprocher dangereusement de la réalité. 

Le cinéma est un outil particulièrement utile pour mieux appréhender le pouvoir des mathématiques, des intelligences artificielles ou des algorithmes dans le domaine de l’internet des objets. Dans cet article, un petit voyage dans le futur vous est proposé pour découvrir des films cultes parlant d’intelligence artificielle et dresser une vision générale de quelques enjeux qui les entourent.

Au visionnage de Blade Runner (Ridley Scott, 1982) le futur est là: il est glauque, anxiogène, visuellement plaisant et pourtant sombre. Le film soulève des questions sur l’intelligence artificielle et son utilisation par la mise en scène de répliques bioniques d’hommes guidées par un système d’IA. Les implications de cette technologie si futuriste et pourtant déjà si présente dans notre quotidien nous hante dès la fin du visionnage. 

Néanmoins, les représentations des intelligences artificielles au cinéma demeurent pleines de mythes et d’idées préconçues. Quant aux enjeux éthiques et juridiques, ils restent largement ignorés, voire complètement oubliés. 

Morten Tyldum réalise The Imitation Game en 2014. Le film met en lumière Alan Turing, créateur du fameux Test Turing. Ce dernier présente alors les balbutiements de notre technologie informatique. Dans ce film, l’intrigue tourne autour du craquage de l’enigma, le code stratégique des Nazis visant à crypter leurs communications. C’est par la construction d’un ordinateur géant qu’il arrive à effectuer des permutations complexes et plus rapidement que n’importe quel cerveau humain. Avec ce premier ordinateur Turing ouvre la voie à la création des premiers systèmes d’intelligence artificielle. Il a également par ses travaux initié les prémices de la définition des IA en se demandant si les machines avaient la capacité de penser. 

Pour définir davantage les IA, il est possible de faire référence à la définition proposée par la Commission européenne : « qui peut, pour un ensemble données et d’objectifs définis par l’homme, générer des résultats tels que des contenus, des prédictions, des recommandations ou des décisions influençant les environnements avec lesquels il interagit ». 

La croissance exponentielle des technologies d’intelligence artificielle fait apparaître des débats autour des enjeux légaux et éthiques des IA notamment relatifs à leur régulation et leur utilisation. Comme le souligne le Secrétaire Général des Nations Unies António Guterres dans son rapport de 2018 sur les Nouvelles Technologies : « Bien que ces technologies soient pleines de promesses, elles peuvent également inspirer une certaine peur, en ce qu’elle ne sont pas sans risques; et l’anxiété qui en découle peut être évidente comme les usages malintentionnés et les conséquences négatives sont probables. » 

Les partisans de cette technologie diront que les intelligences artificielles peuvent apporter une révolution qui ne peut être que bienvenue. Par exemple, dans le film Las Vegas 21, Robert Luketic, met en scène des étudiants du MIT utilisant des codes secrets et des signaux pour démontrer en quoi l’analyse prédictive est une véritable révolution. En effet, les décisions basées sur la collecte de données est le fondement du fonctionnement des intelligences artificielles et constituent une véritable révolution profitable pour ses utilisateurs. 

Cependant, les détracteurs de cette technologie iront davantage souligner les désastres potentiels qui découlent des super-intelligences et soulèvent les dilemmes moraux qui font surface lors de leur utilisation. Il s’agit alors de se poser des questions sur le fameux dilemme du tramway ou encore les conséquences néfastes des biais algorithmiques (retrouvés notamment dans l’actualité avec les affaires Twitter entre autres). 

Ces enjeux (avec de plus grandes implications) ont été explorés dans le film de Alex Proyas, I,Robot. Ici, VIKI (intelligence kinesthésique virtuelle et interactive) est un super-ordinateur qui tourne mal. Il utilise les données de robots à l’échelle du monde et ses capacités pour contrôler lesdits robots et les lois qui gouvernent leur système. Cependant, avec VIKI les lois initialement prévues pour guider les systèmes informatiques et les algorithmes ne retiennent plus les robots qui se sont détachés des fonctionnalités qui leur étaient initialement confiées. Ce film soulève alors que même les lois et algorithmes initialement mis en place peuvent se voir dépassés par la technologie et les conséquences sont alors particulièrement néfastes. 

Pleins d’enjeux se dessinent autour des intelligences artificielles et il s’agit de voir qu’en dépit des représentations de cette technologie dans le paysage hollywoodien la fiction ne substitue pas encore le réel. Cependant, le cadre légal autour de cette technologie demeure plus que nécessaire (1). Cette nécessité est d’autant plus apparente quand les risques relatifs aux IA se font de plus en plus réels (2). Néanmoins, il n’est pas pour autant nécessaire de prendre un ton alarmiste quant à l’utilisation et l’existence de ces technologies en ce qu’elles disposent de promesses infinies et leurs représentations au cinéma demeurent généralement exagérées pour répondre aux exigences d’une audience dont l’attention est difficile à capter. (3) 

Loin de la fiction, l’IA et son cadre juridique

Westworld de Michael Crichton est un film qui traite la question des intelligences artificielles par le prisme du divertissement. Ce film souligne alors que parfois la ligne est fine entre technologie et éthique et illustre alors que même dans les années 70 (date de sortie du film), le besoin de régulation des intelligences artificielles se fait pressentir.

Au fil des évolutions techniques, les adaptations du cadre juridique des intelligences artificielles apparaissent d’autant plus nécessaires. Comme le rappelle Andrea Miskolczi, Directeur Europe des Innovations at Dentons, “Artificial intelligence and the law have a much earlier connection than many realize. […] In the 1980s, legal reasoning was one of the major fields of research of artificial intelligence […]. Therefore, early research interest in AI focused on such rule-based systems.” Juridiquement, la prise en compte des droits fondamentaux et des questions de responsabilité sont en effet essentielles. 

Par exemple, les implications juridiques qui découlent du « Da Vinci Surgical System » dans la sphère médicale soulève des questions relatives à la responsabilité des médecins et du rôle des technologies d’assistance dans leurs performances de travail. 

Ou encore, l’utilisation croissante de données notamment par les GAFAM couplée à leur attitude sur les marchés illustre également la nécessité de réguler les technologies intelligentes déjà existantes. Alors, les institutions Européennes ont par leurs études établi des principes légaux directeurs et ont identifié des enjeux qui découlent de ces progrès technologiques. 

De plus, le RGPD mis en œuvre en 2018 permet aussi de protéger les données des utilisateurs. Ces dernières sont en effet une ressource d’une valeur inestimable et bien que sous-estimées par les utilisateurs des réseaux sociaux, les données ont une valeur essentielle dans notre siècle. 

De même, le Haut Comité d’Expert mis en place par la Commission a établi une liste de ligne directrice pour mettre en Oeuvre des Intelligences Artificielles de confiance (ALTAI). 

Somme toute, les tentatives de régulations et les premiers essais légaux de coordination juridique semblent constituer un premier pas en avant dans la réponse aux enjeux soulevés par les intelligences artificielles. Néanmoins, il semblerait que les institutions et organismes internationaux tentent, pour le moment, tant bien que mal, de rattraper la technologie et se trouve pour le moment relativement dépassée dans son encadrement.

La route est donc encore longue pour s’attaquer aux enjeux tant juridiques que éthiques des IA; c’est notamment ce que Paul Verhoeven prouve dans Robocop. La moralité et l’éthique ne peuvent pas alors exister à l’état artificiel. L’automatisation de l’éthique semble alors compromise et l’humain derrière la technologie est plus que nécessaire à l’équation. Cela fait référence aux dangers de l’utilisation dans les armées des technologies et armes autonomes. En effet, comme le souligne Elon Musk, il est « de plus en plus enclin à penser qu’il devrait y avoir une certaine surveillance réglementaire, peut-être au niveau national et international, juste pour s’assurer que nous ne faisons pas quelque chose de très stupide […] avec l’intelligence artificielle, nous invoquons le démon. »

Loin d’une banalité, l’IA et ses risques

Comme Musk le souligne, et sans aller aussi loin que dans Matrix, avec l’exemple de la dystopie dans laquelle les peurs d’une super intelligence deviennent réalité, il y a des risques évidents inhérents aux IA. Sans parler de Kubrick et son film 2001: L’Odyssée de l’Espace mettant en scène HAL 9000; un super-ordinateur qui décide de détruire l’humanité, les intelligences artificielles présentent de véritables dangers qui se distinguent de la fiction. 

Bryan Walsh souligne au sujet de ces super-intelligences présentées dans les films susmentionnés « Essayer de comprendre la nature d’une super-intelligence IA revient à essayer de comprendre l’esprit de Dieu. »  

Et dans l’éventualité de la création d’une IA, de nouveaux enjeux apparaissent, rendant les implications éthiques et juridiques beaucoup plus importantes. Comme l’a déclaré Allison Duettmann, chercheuse en sécurité de l’IA au Foresight Institute, « déterminer les bonnes valeurs humaines est déjà difficile ; transmettre ces valeurs à une IA pourrait être encore plus difficile. Même si nous connaissions les valeurs, comment les communiquer à un système qui ne partage rien avec nous ? »  En ce sens, l’IA pourrait constituer un véritable risque existentiel. Pour illustrer cette affirmation par un exemple actuel, des entreprises comme Tesla, Uber et Google développent des voitures autonomes et doivent former l’IA de conduite autonome pour qu’elle réagisse de manière sûre et correcte dans presque toutes les situations potentielles. Par exemple : que doit faire une voiture autonome si la seule façon d’éviter de heurter et de tuer un piéton est de faire une embardée qui met son conducteur en danger ? Et si le piéton est une personne âgée et le conducteur un jeune homme ? Comment mesurer la valeur humaine ? On ne peut tout simplement pas le faire objectivement. Lorsqu’on se demande quelle est la bonne décision, dans chaque situation, il n’y a pas de bonne ou de mauvaise réponse. Ces questions ont déjà été traitées depuis des années dans d’autres scénarios par des éthiciens et aucune réponse claire ne semble l’emporter sur toute hypothèse. 

De plus, Elon Musk a déclaré : « Retenez bien mes mots : l’intelligence artificielle est bien plus dangereuse que les armes nucléaires ». Cette affirmation a été illustrée même dans le domaine de la collecte de données. Le scandale Cambridge Analytica, dans lequel un lanceur d’alerte décrit comment une entreprise liée à l’ancien conseiller de Trump, Steve Bannon, a compilé les données des utilisateurs pour cibler les électeurs américains, illustre comment l’IA peut devenir un outil de guerre psychologique.  

En outre, le film de J. C. Chandor intitulé Margin Call démontre les impacts d’une modélisation prédictive erronée. Ce film est centré sur la crise financière de 2008, où des analystes financiers et des analystes de risques ont découvert que leurs modèles de risques ouvraient la voie à une catastrophe

Le film de Chandor n’est pas le seul à soulever les enjeux de l’IA. Dans un autre registre, Ex Machina d’Alexander Garland dépeint les problèmes liés aux AGI (Intelligences Générales Artificielles). 

L’AGI est une IA qui possède des compétences et des connaissances nettement supérieures à celles d’un être humain. Il s’agit d’une forme d’intelligence artificielle plus large que l’IA standard. C’est la réalisation dans la vie réelle de la technologie des films de science-fiction, où les ordinateurs rivalisent avec les humains en termes d’intelligence et de raison. Ce film soulève des questions éthiques sur le traitement et l’expérimentation de robots conscients d’eux-mêmes, ce qui conduit à une fin pernicieuse. Cependant, plus nous en avons appris sur l’IA au fil des décennies, moins nos estimations de l’arrivée de l’AGI sont optimistes. En effet, la quasi-totalité des systèmes d’IA de notre monde contemporain appartiennent à une sous-catégorie appelée apprentissage automatique (AMA), qui est extrêmement étroite et apprend par l’exemple.. Ces machines ne pensent pas de manière indépendante et, contrairement aux humains, elles sont donc incapables de développer des capacités telles que, entre autres, la pensée individuelle.

Enfin, de nouvelles questions et de nécessaires considérations éthiques et juridiques se posent actuellement à propos du Metaverse et de nouveaux enjeux se font jour, car le monde virtuel et le monde réel se sont développés en convergence.

Loin d’être maléfique, l’IA et ses opportunités

Des concepts comme la vallée de l’étrange sont utilisés pour décrire la relation entre l’apparence humaine d’un objet robotique et la réponse émotionnelle qu’il suscite. Dans ce phénomène, les gens ressentent un sentiment de malaise en réponse à des robots humanoïdes réalistes. Ce concept met en évidence la crainte psychologique naturelle que peuvent susciter les technologies d’IA de cette gamme. Néanmoins, le fait de se concentrer sur les risques de l’IA occulte les opportunités qu’elle peut offrir. 

Des données bien utilisées pourraient par exemple être très bénéfiques. Des films comme Minority Report de Steven Spielberg montrent la science des données sous son meilleur jour. Dans ce film, les scientifiques des données sont capables de prédire les futurs crimes en analysant des quantités massives de données. Actuellement, la collecte de données sur les médias sociaux permet de construire des interfaces de divertissement en ligne efficaces offrant des services de haute qualité à leurs utilisateurs (même si cela a un prix : la collecte de données et leur utilisation à des fins lucratives). S’ils sont encadrés légalement, les avantages de la collecte de données sont considérables. En outre, le film Moneyball de Bennett Miller montre l’incroyable pouvoir de l’analyse prédictive et ses capacités dans le monde réel. Dans ce film, l’analyse de données et la “théorie Moneyball ont été utilisées pour sélectionner la meilleure équipe de joueurs sous-évalués avec un budget minimal. Grâce au pouvoir des données, une excellente équipe a été formée. Ce film montre l’importance des données dans la prise de décision et le choix des bonnes statistiques dans la modélisation prédictive. 

En outre, des AGI bien formées et encodées pourraient avoir les mêmes effets positifs que ceux observés à un niveau plus fictif dans Star Trek : Generations (1994), où le super-cerveau doté d’une IA est également équipé d’une puce émotionnelle qui simule les émotions humaines et permet ainsi de faire beaucoup de bien au monde.

Sans aller jusqu’aux AGI, une IA étroite pourrait aussi faire beaucoup pour l’humanité. Si l’on oublie la sophistication de WALL-E (car il est capable d’émotions), les robots présentés dans ce film d’animation sont d’excellents nettoyeurs, chercheurs de vie ou pilotes automatiques. Dans notre vie quotidienne, les assistants vocaux sont la manifestation du résultat positif des IA étroites.

En 2005, McCarthy écrivait un Manifeste sur l’IA et il semble que l’avenir soit maintenant là. Malgré le début potentiel d’un nouvel hiver de l’IA, on peut se demander si les évolutions hollywoodiennes prévues dans le domaine de l’IA se produiront. Seul l’avenir nous le dira.

Manon Videau

Sources: 

1 Kramer contre Kramer, Suits, Mariage Story et bien d’autres encore 

2 https://www.csee.umbc.edu/courses/471/papers/turing.pdf 

3 https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX%3A52021PC0206 

4 https://www.lapresse.ca/affaires/techno/2021-05-19/twitter-ecarte-un-algorithme-de-recadrage-de-photos-qui-avait-un-biais-racial.php

5 https://www.businessgoing.digital/the-legal-perspective-on-artificial-intelligence-an-evolving-relationship/  L’intelligence artificielle et le droit ont un lien beaucoup plus ancien que beaucoup ne le réalisent. […] Dans les années 1980, le raisonnement juridique était l’un des principaux domaines de recherche de l’intelligence artificielle […]. Par conséquent, l’intérêt des premières recherches en IA s’est concentré sur de tels systèmes basés sur des règles […]. 

6 Feasibility Study of the Council of Europe’s Ad Hoc Committee on Artificial Intelligence (CAHAI) the legal challenges and principles that derive from the European Convention on Human Rights.

7 https://www.economist.com/leaders/2017/05/06/the-worlds-most-valuable-resource-is-no-longer-oil-but-data 

8 https://www.euractiv.com/section/digital/opinion/time-for-europe-to-get-serious-on-artificial-intelligence/ 

9 Quote from:  End Times: A Brief Guide to the End of the World

10 https://lithub.com/if-planet-death-doesnt-get-us-an-ai-superintelligence-most-certainly-will/

11 https://www.youtube.com/watch?v=kzlUyrccbos&feature=youtu.be 

12 https://www.nytimes.com/2018/04/04/us/politics/cambridge-analytica-scandal-fallout.html 

13 https://www.science.org/doi/full/10.1126/science.368.6494.927 

14 https://www.weforum.org/agenda/2021/07/why-it-s-time-to-change-the-debate-around-ai-ethics/ 

15 https://www.intechopen.com/chapters/77823 

16 https://www.masterclass.com/articles/uncanny-valley-explained 

17 https://www.historyofdatascience.com/ai-winter-the-highs-and-lows-of-artificial-intelligence/ 

2 commentaires

Votre commentaire

Entrez vos coordonnées ci-dessous ou cliquez sur une icône pour vous connecter:

Logo WordPress.com

Vous commentez à l’aide de votre compte WordPress.com. Déconnexion /  Changer )

Image Twitter

Vous commentez à l’aide de votre compte Twitter. Déconnexion /  Changer )

Photo Facebook

Vous commentez à l’aide de votre compte Facebook. Déconnexion /  Changer )

Connexion à %s