Ce qui suit est un extrait de Techno par Marcus Smith, sorti cette semaine via The University of Queensland Press.
Nous avons commencé par évoquer la nécessité d’examiner et de réfléchir à la révolution technologique : son impact sur le monde actuel et son impact probable à l’avenir. En plein cœur de cette révolution, nous n’avons peut-être pas la perspective nécessaire pour apprécier pleinement tout ce qui s’est produit en si peu de temps et les implications pour l’humanité. Mais si nous réfléchissons aux développements technologiques qui se sont produits tout au long de l’histoire, nous constatons à quel point les nouvelles technologies ont changé la vie quotidienne en seulement 25 ans.
La technologie et sa réglementation constituent le problème majeur de notre époque et nous devons le prendre au sérieux. La complexité des produits des entreprises technologiques, leurs ressources financières et leur caractère mondial signifient que les gouvernements nationaux doivent collaborer pour parvenir à une réglementation efficace. Les gouvernements n’ont jusqu’à présent pas consacré suffisamment de ressources pour faire face aux coûts des nouvelles technologies : impacts sur la vie privée, criminalité, inégalités sociales et potentiel de l’intelligence artificielle générale à changer le monde d’une manière que nous ne pouvons même pas anticiper.
L’une des raisons est peut-être que nous sommes tellement immergés dans la technologie que nous n’avons pas suffisamment réfléchi à la nécessité de la réglementer et que nous n’avons pas suffisamment insisté auprès de nos dirigeants sur ce point. Les nouvelles technologies ont à la fois donné du pouvoir et privé les individus de leur pouvoir. Nous avons un meilleur accès à l’information et aux services, mais cela a conduit à un modèle économique basé sur les données adopté par une nouvelle génération d’entrepreneurs technologiques.
Les moteurs de recherche en ligne ont monétisé notre historique de navigation pour proposer des publicités plus efficaces, ouvrant la voie à des entreprises qui ont ensuite monétisé nos visages et nos génomes. Les forces de l’ordre qui prenaient les empreintes digitales ou les preuves recueillies sur le téléphone d’un suspect en vertu d’un mandat d’arrêt ont évolué vers des systèmes de données qui enregistrent tout ce qui se passe en ligne. Ce qui a commencé par le téléchargement d’une photo de profil sur un site Web est rapidement devenu un aliment pour les systèmes de surveillance, les algorithmes, les deepfakes et la désinformation.
Les données personnelles sont désormais utilisées par les entreprises et les gouvernements dans toute la mesure où les connaissances actuelles le permettent. La législation sur la protection de la vie privée n’a eu que peu d’impact. Internet a jeté les bases d’une nouvelle génération d’applications technologiques sociales. Les médias sociaux ont connecté les gens et changé le monde, à tel point qu’ils ont transformé la diffusion des connaissances, la politique et certains aspects de la démocratie libérale. Facebook a bouleversé les médias d’information, la publicité et d’autres secteurs, a influencé les élections et a fait évoluer la dynamique des relations humaines. Il n’a jamais été aussi facile de se mettre en réseau, de transmettre des informations et d’atteindre un public cible.
Aujourd’hui, la technologie blockchain décentralise et bouleverse les systèmes financiers et redistribue la richesse par le biais des cryptomonnaies et des contrats intelligents, ouvrant l’accès à un plus large éventail d’acteurs. De plus en plus de personnes peuvent désormais effectuer des transactions dans le monde entier, sans avoir à faire appel à des avocats, des comptables, des banquiers, des bureaux de change et des documents. Les nouvelles opportunités commerciales abondent, mais les possibilités de fraude aussi, comme l’a illustré l’effondrement de FTX.
Les technologies discrètes nécessaires aux systèmes de crédit social sont largement utilisées dans le monde entier, mais un seul pays – la Chine – met ouvertement en place une gouvernance numérique globale et intégrée. Il est probable que des systèmes similaires seront finalement mis en œuvre dans de nombreux pays à travers le monde, ce qui pourrait changer la structure de la démocratie libérale et ses valeurs. En confiant ces ensembles de données à l’IA, celle-ci acquerra un pouvoir considérable.
La révolution technologique a des conséquences majeures sur les gouvernements et les relations internationales. La répartition des ressources minérales, le changement climatique, le développement d’industries encore plus avancées et les applications militaires de la technologie auront des répercussions sur la politique mondiale et l’ordre international. L’influence des gouvernements pourrait diminuer à mesure que la technologie et l’IA deviennent inévitablement plus sophistiquées.
L’approche innovante mais traditionnelle de la régulation technologique adoptée par l’Europe (législation et amendes) est un bon début, mais elle ne suffira pas à elle seule. Le contrôle de l’IA et d’autres technologies nécessitera la collaboration des gouvernements du monde entier et devra intégrer des formes innovantes de régulation fondée sur la technologie.
Le philosophe du XIXe siècle Friedrich Nietzsche est l’un des existentialistes les plus connus. Il s’intéresse aux questions liées au sens de la vie humaine et à la place de l’homme dans le monde. Nietzsche a publié ses œuvres au XIXe siècle, une période importante de l’histoire de l’humanité où un monde laïc émergeait et où l’influence du christianisme était remise en question par une prise de conscience croissante des progrès scientifiques. Les découvertes en astronomie, en physique et en biologie ont changé notre compréhension du monde et de l’univers qui nous entoure.
C’est à cette époque que Nietzsche affirme que « Dieu est mort ». Il cherche à souligner que, grâce aux progrès de la connaissance humaine au cours du siècle des Lumières – découvertes scientifiques fondamentales et développement de théories éthiques et politiques plus sophistiquées – les humains n’ont plus besoin de la religion comme source de valeur et d’ordre dans l’univers. Selon Nietzsche, les humains ont, dans une certaine mesure, « tué » Dieu en parvenant à obtenir une meilleure compréhension du monde.
En plus de contribuer de manière décisive au progrès scientifique, l’IA du futur créera de l’art, de la musique, de la poésie, de la littérature et de la philosophie. Si, malgré nos meilleures tentatives de régulation, l’IA parvient à dominer les humains, à s’intégrer aux autres technologies que nous avons étudiées et, grâce à ses capacités intellectuelles largement supérieures, à prendre le contrôle du monde, comment un grand modèle linguistique pourrait-il donner un sens au monde et à la place de l’IA dans celui-ci ? Il absorberait les écrits des hommes les plus influents qui l’ont précédé, notamment Nietzsche et ses opinions largement citées sur le statut des humains à une époque où la science les avait poussés à réorganiser leur pensée. L’IA pourrait-elle alors générer la phrase « Les humains sont morts » ?
Au sens figuré, cela pourrait résumer succinctement la pertinence diminuée des humains dans le monde. Ainsi, l’accomplissement le plus important de l’humanité pourrait en fait précipiter la fin de certains de ses aspects. C’est une contradiction de la vie moderne, mais nous serons rapidement obligés de nous en débarrasser après une brève période de réflexion. Nous sommes programmés pour nous revigorer, pour continuer à poursuivre le progrès humain et à évoluer.
Si la religion a toujours un rôle à jouer dans le monde d’aujourd’hui, les humains en auront également un dans un monde dirigé par une technologie d’intelligence artificielle supérieure. À l’avenir, les humains pourront coexister avec l’intelligence artificielle, tout comme la religion coexiste aujourd’hui avec la science. Bien que la religion ne puisse pas expliquer le monde physique comme le fait la science, elle offre une vision importante que la science ne peut pas. Les humains, eux aussi, continueront à offrir une perspective du monde que l’intelligence artificielle ne peut pas offrir.
