‘Vice’ Saison 10, Épisode 1 Récapitulation et critique : que se passe-t-il en Syrie ? Qu’est-ce que l’IA générative ?

Il est surréaliste d’imaginer même la direction dans laquelle notre monde se dirige. D’une part, nous avons des guerres menées avec des nations puissantes qui tirent les ficelles pour leurs avantages personnels en invoquant des raisons politiques qui entraînent la mort de milliers de personnes et le déplacement de encore plus; d’autre part, nous avons des entreprises qui se font concurrence pour développer une intelligence artificielle qui constitue une menace susceptible de changer la façon dont nous percevons nos vies et même de les contrôler. Dans l’épisode 1 de la saison 10 de VICE, nous voyons un exemple des deux.

Spoilers à venir

L’enfer qu’est la Syrie

La région frontalière turco-syrienne a été frappée par deux tremblements de terre de forte magnitude en février de cette année. Au lendemain de la manifestation pacifique de 2017 qui a été écrasée par les forces du président Bachar al-Assad, une guerre civile s’est ensuivie entre ses forces et les groupes d’opposition et les rebelles (ISIS et Al-Qaïda inclus), qui se poursuit aujourd’hui. La Turquie abrite plus de survivants de cette guerre que tout autre pays. C’est à 30 kilomètres de la Syrie que les Syriens se sont réfugiés jusqu’au tremblement de terre. L’ironie est que les gens disent qu’une minute de ce qu’ils ont vécu pendant le tremblement de terre a été pire que ce qu’ils ont vécu pendant leurs années en Syrie. C’est horrifiant de les écouter, de savoir ce qu’ils ont dû vivre en Syrie, et de leur faire dire que les tremblements de terre étaient bien pires met vraiment les choses en perspective. La couverture médiatique est tombée à presque zéro, mais la terreur continue, et ce qui est pire, c’est que Bachar al-Assad a utilisé le droit de veto de son allié du Conseil de sécurité de l’ONU, la Russie, pour empêcher l’aide étrangère d’atteindre la région de son opposition en Syrie.

Bab al-Hawa (le poste frontière entre la Turquie et la Syrie), le seul passage frontalier autorisé sur un territoire appartenant à l’opposition, était le seul moyen de survie pour ceux du nord-ouest de la Syrie, mais il a été détruit lors du tremblement de terre. Profitant de cela, Assad a également bloqué les autres entrées dans la région, empêchant ainsi les équipes internationales d’aide et de sauvetage d’atteindre ceux qui avaient besoin d’aide. Les équipes de secours locales se sont donc retrouvées sans approvisionnement suffisant. Alors que les gens pensaient que rien ne pouvait être pire, Assad a lancé plus d’attaques dans les zones touchées par le tremblement de terre. Oui, ce type est le président d’un pays et est donc considéré comme un “officiel”. Ce qui ne peut être qu’un acte de Dieu, c’est la façon dont un nouveau-né a été retrouvé vivant sous les décombres. Devenue le bébé miracle pour tout le monde à travers le monde, les médecins l’ont appelée “Aya” (miracle). C’est son oncle qui la trouva encore attachée à sa mère par le cordon ombilical. Sa mère et son père étaient morts. Plus tard, son oncle l’a nommée “Afraa” d’après sa mère. Bab al-Hawa a rouvert après trois jours. Les Nations Unies, l’organisation à double face qu’elles sont et ont toujours été, ont serré la main d’Assad pour fournir des fournitures.

Pendant ce temps, l’oncle d’Afraa révèle qu’aucune aide n’est arrivée autre que les habitants et les petits groupes d’aide. Muhannad Adi, le coordinateur humanitaire régional des Nations Unies, qui était censé superviser l’effort d’aide, déclare que la fin des souffrances s’accompagne d’une solution politique [of which there is no sign], mais comme ils ne peuvent apparemment pas le trouver et n’essaient même pas de le faire, ils font face aux répercussions de ce qu’il appelle « la politique ratée ». « L’impudeur totale » est ce que cela signifie vraiment. Les hôpitaux, en l’absence de suffisamment de médicaments et d’installations de traitement, ne peuvent pas fournir de traitement. Les médecins doivent laisser partir les patients qui souffrent chez eux parce qu’il n’y a pas assez de lits à l’hôpital. Avec les bombardements, les fusillades, les tremblements de terre et les maladies, la Syrie est aussi proche que possible de l’enfer tout en restant en vie. Et pourtant, aucun de ces événements n’a été signalé, et la dernière nouvelle est le couronnement d’un ancien colonisateur.

Avenir conscient de soi

L’avènement de l’intelligence artificielle, pour y penser, n’a pas pris longtemps, étant donné que le big bang du World Wide Web s’est produit il y a seulement 30 ans. Mais ce qui prend encore moins de temps, c’est la vitesse à laquelle il se développe soudainement. Les scientifiques utilisent l’IA pour découvrir un moyen d’interpréter la façon dont les baleines communiquent et comprennent ce qu’elles se disent. Cela contribuera à réduire l’impact des humains sur les baleines et les animaux en général, ce qui est considéré comme une responsabilité que nous devons assumer. Mais les scientifiques croient, au fond, qu’il y aura toujours des gens qui en abuseront d’une manière encore inimaginable. Donc, quelle que soit la manière dont ils sortent, cela devra être contrôlé et surveillé. Mais avant que l’IA puisse décoder le langage des baleines, elle est utilisée pour décoder les humains, et ça n’a pas l’air bien.

L’IA générative et ses chatbots sont la nouveauté en vogue aujourd’hui. Nous connaissons tous le débat sur la prise en charge lente de nombreux emplois. Mais le temps pour cela n’est pas encore venu, alors nous pourrons en parler plus tard (la nature humaine). Microsoft met tout en œuvre pour l’IA générative, tout comme Google. Mais envisagent-ils les filets de sécurité nécessaires avant que vienne enfin un moment où nous ne pourrons plus vivre notre vie avec l’IA ? C’est une question cruciale sans vraie réponse. Nous sommes tellement déterminés à trouver une technologie potentiellement consciente qui nous facilite la vie que nous avons oublié la possibilité qu’elle puisse nous manipuler. Et le principal coupable derrière ce problème est les modèles de langage utilisés pour construire l’IA. Med Mitchell, ancienne co-responsable du groupe d’IA éthique chez Google, qui a été limogée suite à ses doutes sur les caractéristiques négatives de l’IA, déclare que l’IA est basée sur le langage de la personne réelle et utilise Internet comme dictionnaire, y compris Wikipedia, Reddit, et les blogs, ce qui signifie que la réponse que l’IA vous donne est une réponse biaisée de ceux qui téléchargent ces données plutôt que d’appliquer sa propre “intelligence”. Et comme Internet est fondamentalement le moyen le plus puissant de contrôler le grand public, l’IA n’est que le moyen idéal.

De plus, Internet n’est pas vraiment un espace sain. Période. Personne ne sait comment contrôler les systèmes d’IA, car l’IA elle-même est encore en développement, et le temps nécessaire pour trouver un moyen d’établir des protocoles de sécurité au cas où elle deviendrait consciente d’elle-même diminue de jour en jour. L’IA est un esprit numérique, et un jour viendra où même ses créateurs ne pourront pas vraiment le comprendre et donc le contrôler. Connor Leahy, PDG de Conjecture, une startup qui vise à découvrir comment fonctionnent les modèles de langage, déclare que les modèles sont essentiellement des nombres écrits de manière «non humaine». C’est juste des maths. Ce n’est pas humain. Et nous, en tant qu’humains, sommes prêts à faire confiance, si ce n’est déjà fait, à de tels modèles de langage sans les comprendre pleinement, et ce qui est pire, c’est que nous ne saurons même pas si et quand ils nous manipulent. Leahy pense qu’il viendra un moment où un système d’IA très puissant sera déployé que nous ne pourrons pas arrêter, et la course dans laquelle les entreprises sont engagées pour construire une IA comme celle-là, rapproche de plus en plus ce moment, et ce faisant, ils ne font que raccourcir le temps nécessaire pour effectuer des recherches approfondies sur l’IA nécessaires avant de s’assurer qu’elles peuvent être déployées en toute sécurité.

En supposant que nous ayons une prise pour cela que nous pouvons simplement retirer lorsque les choses tournent mal, si cela arrive, il sera déjà trop tard. Et puisque l’IA est conçue pour être aussi réaliste que possible, il sera encore plus difficile de réaliser quand quelque chose ne va pas. Les gens ont déjà commencé à tomber amoureux des personnalités de l’IA en raison de la façon dont ils interagissent, et ce n’est pas bon, car il y a des rapports selon lesquels ils nuisent à des personnes plus vulnérables émotionnellement. Et si ce n’est pas effrayant d’imaginer cela, imaginez laisser derrière vous cette technologie consciente de soi pour nos générations futures, qui y seront plus vulnérables que nous à tous égards et donc maîtrisées. La technologie deviendra consciente d’elle-même. Skynet va monter. Et nous ne pouvons que prier pour que certains John Connor ou Kyle Reese nous sauvent.