I en A marre

Derrière ce titre racoleur et expéditif, je tâcherai tout de même de faire preuve de quelques nuances. 

Ca ne vous aura pas échappé, l'IA est partout. Téléphones, ordinateurs, voitures, frigos, logiciels... A croire qu'il n'est plus possible de vendre un produit ou un service s'il n'y a pas "IA" dans le descriptif. Pire qu'un effet de mode, la bascule est totale, dans tous les domaines. 

Suis-je contre l'IA ? Déjà, je souhaite clarifier cet abus de langage. Il n'y a pas une IA, mais plusieurs sortes d'IA. La plus en vogue en ce moment, celle accessible facilement au grand public, l'IA générative comme Chat-GPT, mais également des logiciels beaucoup plus anciens que l'on appelle aussi IA mais qui sont des algorithmes entraînés avec une base de données (du machine learning) et qui sont d'une très grande utilité en sciences. Par exemple, indiquez à cet algorithme des photographies de cancers malins de la peau avérés d'un côté, de tumeurs bénignes de l'autre et avec assez de photographies l'algorithme sera capable de classer dans l'une ou l'autre des catégories une nouvelle photographie qu'il n'avait jamais vu (en renseignant son indice de confiance).  

Fervent défenseur de la standardisation de la photographie scientifique dont l'un des objectifs est justement d'améliorer la qualité de ces données brutes (pour que l'algorithme fonctionne encore mieux), je ne peux qu'être pour ces techniques qui permettent de gagner du temps pour le patient. Je reste néanmoins persuadé qu'un contrôle humain est nécessaire à un moment donné pour éviter les erreurs grossières, mais également assurer une part de responsabilité en cas d'erreur. 

 A contrario, il est totalement absurde de chercher à générer une image de mélanome "à partir de rien" via un prompt pour illustrer un cours de dermatologie. Pire, on créé une fausse information, qui, si elle se retrouve sur internet, sera aspirée par d'autres IA génératives et risque fortement de dégrader une information capitale.

On peut partir du principe que la quasi totalité de ce qui se trouve sur l'internet public peut servir à entrainer ces IA génératives. Ainsi, à chaque publication des résultats de prompts (texte, image, vidéo, etc.) on prend le risque de participer à la dégradation de l'information, ce qui, suivant le degré d'exposition de la publication, pourra ressurgir plus ou moins fréquemment dans les prompts ou recherches futurs. On parle d'empoisonnement d'internet. 

Avec des utilisateurs qui ont de plus en plus recours à ces outils et qui pour beaucoup leur font confiance, il ne leur est plus possible de faire la différence entre une information valable et une information empoisonnée. Les modèles "apprenants" rapidement, il suffit de voir monter en puissance la présence d'IA génératives associées à des Bots qui vont publier automatiquement de grandes quantités de posts en puisant dans les modèles, accélérant de plus belle l'empoisonnement potentiel. 

Publier une fausse information est très rapide. La contredire et la faire disparaitre est infiniment plus long. C'est pour cela que je suis pessimiste sur l'état du web dans un proche futur. Idéalement, il faudrait déjà constituer un espace sanctuarisé sur lequel aucune publication automatique ou issue de prompt ne serait autorisée afin d'éviter la propagation de cet empoisonnement. 

Si l'on revient à l'utilisation quasi addictive qui est faite des IA génératives (répondre à un mail, écrire une lettre de motivation, un discours, rédiger un post Linkedin (ils se ressemblent tous comme si c'était la même personne qui les écrivait, quelque soit le sujet !), on se lie de facto à l'éditeur du logiciel qui contrôle les résultats que l'on obtiendra. Une fois les utilisateurs totalement dépendants de ces outils, le retour en arrière parait bien compliqué, et sera de plus en plus difficile avec le temps qui passe. Qui saura encore construire une argumentation solide ou synthétiser des idées dans 5 ans ? 

Nous avons déjà constaté l'omniprésence des publicités ciblées via les moteurs de recherches, pages web et réseaux sociaux. C'est également en train d'arriver pour les IA génératives et le ciblage sera forcement encore plus efficace et le matraquage fréquent en raison de notre dépendance à ces outils. 

Utiliser de l'IA comme compagnon de travail en local sur sa propre machine, avec nos propres paramètres, sans qu'elle ne puisse accéder à internet ? Cela peut marcher pour des tâches précises, où on a besoin par exemple d'automatiser une tâche répétitive (ce qui est un excellent usage de l'IA).  Mais devant ce marché gargantuesque, les grands éditeurs de ces logiciels n'ont aucun intérêt à pousser en ce sens. 

Ma vision vous paraîtra pessimiste, certes. Je dirais plutôt que je suis blasé du détournement phénoménal de ressources et de potentiel de technologies qui, dans les mains de celles et ceux qui en ont le plus besoin, apporteraient beaucoup plus à l'humanité que balancer des tonnes de CO2 pour générer des images de chaton sur les réseaux sociaux. La spéculation exacerbée sur les composants informatiques permettant de faire tourner l'IA ne peut que remuer le couteau dans la plaie. 

Je tente de me raccrocher aux bonnes nouvelles (souvent issues du machine learning ou des simulations de reploiement de protéines pour la recherche médicale). Elles ne sont toutefois pas assez mises en avant à mon goût. Surement la faute à l'IA !