Il n’aura échappé à aucun citoyen que, désormais, l’IA imprègne toutes les strates de la société. Dans son éclairant essai, Contre-atlas de l’intelligence artificielle, Kate Crawford détaille le déroulé de son apparition et surtout de son emprise hégémonique. En six denses chapitres, l’autrice australienne met au jour l’historique et la portée pas toujours avouée de ce nouveau Dieu.
Pour concevoir les batteries et les machines computationnelles surpuissantes, quelques sociétés s’approprient, notamment, l’extraction du cristal de lithium blanc, l’or gris, à l’instar de l’extraction de l’or jaune au XIXe siècle. Par là-même, quelques individus, par pur profit court-termiste, causent des dégâts irréversibles au plus grand nombre comme par exemple en Mongolie avec le lac mort de Baotou ou en Indonésie avec l’étain.
Digne de la révolution industrielle, une autre forme d’exploitation envahit le quart-monde. En effet, avec l’utilisation d’une main d’œuvre bon marché et surabondante, une poignée de sociétés (les GAFAM, auxquelles il faut ajouter Tesla et Amazon sans oublier quelques unes des entreprises chinoises les plus en pointe) exploitent des crowdworkers. Ces personnes sont sous-payées pour trier et classer la multitude de données glanée au fil d’internet par ces grosses firmes. Bien sûr, ce pillage se fait sans aucune autorisation et encore moins sans rémunérer les ayants droit concernés. Du haut de leur suffisance, ces grosses firmes s’approprient le bien d’autrui tout comme le fit le colonialisme d’antan.
L’image que renvoie l’IA n’est autre que celle d’un monde idyllique où tout est logique et cohérent. En fait, de nombreux biais apparaissent dès la collecte des données. Puisqu’elles sont toujours issues d’un milieu social ou politique. Elles sont donc chargées d’affects et d’à priori inhérents à toute communauté humaine quelle qu’elle soit. Ce qui, par conséquent, se retrouve dans les bases de données exploitées sans discernement au travers de la planète (surtout par l’Occident).
Dans cet ouvrage sans concession, Kate Crawford démystifie l’aspect magique de l’IA que tout un chacun est enclin à lui octroyer sans guère de sens critique. Loin d’être artificielle, l’IA utilise toute une cohorte de petites mains réelles pour devenir opérationnelle. De plus, la part d’intelligence qui lui revient découle uniquement des bases de données elles mêmes truffées de biais. Ce qui la rend très vite contre productive dans bien des cas. Grâce à la mise au point salutaire de ce livre et par sa généreuse pertinence, chaque citoyen est informé au mieux sur ce que représente réellement cette technologie.
Ainsi armé, il sera en droit de réclamer une plus grande rigueur dans son utilisation. Et ce, d’autant plus, que les autorités se défaussent sur ” l’infaillibilité ” de l’IA. De ce fait, elles s’en remettent aveuglément à elle, au risque de totalement déformer la réalité. Et par là-même, elles occasionnent de multiples problèmes au sein de la société jusqu’à déboucher sur de graves erreurs sociales ou judiciaires. Big Brother n’est plus très loin.
Camille DOUZELET et Pierrick SAUZON
Contre-Atlas de l’intelligence artificielle, Kate Crawford, traduit de l’anglais par Laurent Bury, 384 pages, 23,50€, Zulma Essais.