![\"\"](\"https:\/\/www.blog-lecerveau.org\/wp-content\/uploads\/deep-learning-p\u00e9rils.png\" "\\"deep")
<\/p>\n<\/p>\n
Samedi dernier la docteure Marie-Claude Goulet publiait dans le journal Le Devoir<\/em> un article intitul\u00e9 \u00ab Les menaces technicistes de l\u2019intelligence artificielle<\/span><\/a><\/span><\/strong> \u00bb. En s\u2019inspirant du livre \u00ab Cerveau augment\u00e9, homme diminu\u00e9<\/span><\/a><\/span><\/strong> ? \u00bb du philosophe et clinicien Miguel Benasayag<\/span><\/a><\/span><\/strong>, elle soulevait certaines questions sur la place de plus en plus grande qu\u2019occupe dans nos soci\u00e9t\u00e9s ce qu\u2019on appelle \u00ab l\u2019intelligence artificielle<\/span><\/a><\/span> \u00bb. Cette longue tradition de recherche en informatique a connu depuis quelques ann\u00e9es des avanc\u00e9es importantes <\/span><\/a><\/span><\/strong>gr\u00e2ce aux techniques de l\u2019apprentissage profond (\u00ab deep learning <\/span><\/a><\/span><\/strong>\u00bb, en anglais).<\/p>\n Pour le dire tr\u00e8s vite, on parle ici de machines dont la structure est inspir\u00e9e de notre cerveau<\/span><\/a><\/span><\/strong> (des r\u00e9seaux de neurones, mais ici virtuels) et qui sont capables d\u2019apprendre suite \u00e0 des entra\u00eenements r\u00e9p\u00e9t\u00e9s au lieu d\u2019\u00eatre programm\u00e9s par des humains. La reconnaissance vocale sur votre t\u00e9l\u00e9phone, la reconnaissance visuelle des visages sur Facebook <\/span><\/a><\/span><\/strong>ou les am\u00e9liorations r\u00e9centes sur Google translate en sont des exemples qui nous facilitent la vie au quotidien. Mais ces technologies ne pourraient-elles pas \u00e9galement nous nuire ? Autrement dit sont-elles toujours au service de la vie, de la culture et de l\u2019esprit critique ou ne nous asserviraient-elles pas plus qu\u2019elles nous lib\u00e8rent, demande Goulet en reprenant les pr\u00e9occupations de Benasayag.<\/p>\n Il y a de nombreux enjeux importants soulev\u00e9s dans cet article, et je voudrais seulement en \u00e9voquer quelques-uns en fournissant des liens vers d\u2019autres ressources pertinentes pour approfondir ces questions.<\/p>\n Un point important amen\u00e9 par Benasayag est cette id\u00e9e que les \u00eatres humains, contrairement aux technologies de l\u2019intelligence artificielle, poss\u00e8dent un corps avec une histoire de vie (et m\u00eame une longue histoire \u00e9volutive<\/span><\/a><\/span>). Elle rejoint tout-\u00e0-fait le courant de l\u2019approche incarn\u00e9e en sciences cognitives o\u00f9 d\u2019autres avant lui, comme Francisco Varela et Evan Thompson<\/span><\/a><\/span>, ont d\u00e9fendu l’id\u00e9e que c’est par ce corps que l\u2019on doit garder vivant que nous vient la signification des choses. Simplement bonnes ou mauvaises dans un premier temps, et par la suite en d\u2019infinis raffinements avec les \u00e9motions, les sentiments, l\u2019esth\u00e9tique, l\u2019\u00e9thique, etc.<\/p>\n L\u2019intelligence artificielle actuelle, on l\u2019a dit, a connu beaucoup de succ\u00e8s depuis qu\u2019elle imite le cerveau humain et sa structure connexionniste. Mais elle ne cherche pas (du moins pas encore\u2026) \u00e0 imiter le corps entier avec son histoire incarn\u00e9e propre \u00e0 chacun. C\u2019est en partie pour cette raison que ses domaines d\u2019application restent sp\u00e9cifiques et que ces technologies n\u2019ont pas la flexibilit\u00e9 et les capacit\u00e9s de g\u00e9n\u00e9ralisation et d\u2019adaptation de l\u2019intelligence humaine.<\/p>\n Et donc effectivement, pour reprendre les mots de Benasayag, \u00ab Une machine sans limite th\u00e9saurise de l\u2019information, tandis qu\u2019un corps avec des limites produit un monde de sens. \u00bb Voil\u00e0 pour une distinction de base qui permet d\u2019\u00e9viter certaines craintes par rapport aux \u00ab intelligences artificielles \u00bb actuelles qui d\u00e9coulent souvent d\u2019une m\u00e9connaissance de cette diff\u00e9rence fondamentale entre les machines et nous.<\/p>\n Mais tout n\u2019est pas si simple, bien entendu\u2026 L\u2019interaction entre les outils que les humains fabriquent depuis ses origines ont de tout temps influenc\u00e9 son cerveau, et donc ses fa\u00e7ons de r\u00e9fl\u00e9chir et de penser le monde qui l\u2019entoure. Pareil pour la culture dans laquelle il na\u00eet et qui va sculpter litt\u00e9ralement son cerveau, l\u2019amenant \u00e0 avoir une vision du monde, une cosmologie, semblable \u00e0 celle de ses pairs. Ce qui, il faut bien l\u2019admettre, est bien pratique pour se comprendre au sein d\u2019un groupe (et qui est donc forc\u00e9ment tr\u00e8s adaptatif). Ce n\u2019est donc pas d\u2019hier que pour \u00eatre plus efficaces lorsqu’on calcule on utilise un crayon, un boulier, une calculatrice ou un ordinateur. M\u00eame chose pour l\u2019\u00e9criture. Les moines copistes auraient-ils \u00e9t\u00e9 les m\u00eames s\u2019ils avaient dispos\u00e9 de dactylos ? Les monast\u00e8res auraient en tout cas \u00e9t\u00e9 pas mal plus bruyants\u2026 ;-P<\/p>\n Le ph\u00e9nom\u00e8ne n\u2019est donc pas nouveau et l\u2019on n\u2019assiste pas, avec les t\u00e9l\u00e9phones intelligents par exemple, \u00e0 un changement qualitatif par rapport \u00e0 ce ph\u00e9nom\u00e8ne que des philosophes \u00e9tudient depuis longtemps sous des vocables comme \u00ab co\u00e9volution g\u00e8ne \u2013 culture \u00bb ou encore \u00ab cognition \u00e9tendue<\/span><\/a><\/span> \u00bb. Mais au niveau quantitatif, en termes de puissance que ces \u00ab applications \u00bb ajoutent \u00e0 notre cognition et au niveau de la vitesse avec laquelle elles se d\u00e9veloppent, l\u00e0 il y a quelque chose d\u2019assez unique qui est en train de se produire. Faut-il pour autant s\u2019en effrayer ?<\/p>\n L\u00e0 encore, cela d\u00e9pend de ce qu\u2019on l\u2019on fait avec ces nouveaux outils. Bien s\u00fbr, on peut faire une critique de ces innovations technologiques en termes de priorit\u00e9s globales pour l\u2019esp\u00e8ce humaine alors que, comme l\u2019\u00e9voque Marie-Claude Goulet, \u00ab plus du tiers de l\u2019humanit\u00e9 ne comble pas ses besoins minimaux en nourriture. \u00bb. Ou alors questionner aussi comme elle le fait l\u2019exemple des maisons intelligentes souvent donn\u00e9 par le chercheur en apprentissage profond de l\u2019Universit\u00e9 de Montr\u00e9al Yoshua Bengio<\/span><\/a><\/span><\/strong>. Mais critiquer la pertinence d\u2019appareils faisant jouer une musique \u00e0 notre go\u00fbt ou tamisant l\u2019\u00e9clairage au moment opportun dans notre maison, c\u2019est un peu comme critiquer le thermostat qui garde une temp\u00e9rature constante dans la m\u00eame maison : celle des technologies qui nous procurent plus de confort (et encore une fois, bien s\u00fbr, on pourrait se demander si ce type de technologie qui pousse encore plus loin notre confort devrait se d\u00e9velopper avant que la plan\u00e8te enti\u00e8re ait un confort minimal\u2026).<\/p>\n Du reste, s\u2019il faut parler de Joshua Bengio, il est l\u2019un des rares chercheurs de pointe dans son domaine \u00e0 avoir refus\u00e9 les offres des Facebook et Google et qui prend le temps d’expliquer la nature de ses travaux et ses implications sociales. Il s\u2019entoure pour ce faire de philosophes et d\u2019\u00e9thicien.nes qui participent \u00e0 des \u00e9v\u00e9nement comme le r\u00e9cent Forum sur le d\u00e9veloppement socialement responsable de l\u2019intelligence artificielle<\/span><\/a><\/span><\/strong> qui s\u2019est tenu \u00e0 l\u2019Universit\u00e9 de Montr\u00e9al.<\/p>\n Et parmi ces questions \u00e9thiques \u00ab qui tuent \u00bb (au sens figur\u00e9 comme au sens propre) figurent celles qui d\u00e9coulent du syst\u00e8me de production capitaliste dans lequel se d\u00e9veloppent in\u00e9vitablement ces technologies. Et comment elles peuvent \u00eatre utilis\u00e9es par des compagnies pour r\u00e9duire \u00e0 la longue des citoyen.nes \u00e0 de simples consommateurs bien conditionn\u00e9s. Ou par des \u00c9tats guerriers pour r\u00e9duire les m\u00eames citoyen.nes vivants dans des pays \u00ab ennemis \u00bb en simples miettes<\/span><\/a><\/span><\/strong> (quand la reconnaissance faciale se met au service des drones militaires<\/span><\/a><\/span><\/strong>, par exemple\u2026).<\/p>\n Mais il y a un p\u00e9ril, peut-\u00eatre moins spectaculaire que ces technologies militaires mais non moins pr\u00e9occupants parce que plus insidieux et apparemment inoffensif. Il s\u2019agit d\u2019appareils qui rivalisent d\u2019astuces pour s\u2019accaparer ce bien pr\u00e9cieux qu\u2019est votre attention<\/span><\/a><\/span> (votre \u00ab temps de cerveau disponible<\/span><\/a><\/span> \u00bb, pour rappeler cette f\u00e2cheuse expression). Cette guerre en est une de basse intensit\u00e9 mais elle se produit \u00e0 tous les jours gr\u00e2ce \u00e0 nous chers t\u00e9l\u00e9phones, tablettes et portables sur lesquels nous parcourons nos chers r\u00e9seaux sociaux. Bref, \u00e0 chaque fois qu’on descend un peu notre fil de nouvelle Facebook pour voir si on a des \u00ab\u00a0likes\u00a0\u00bb. Exactement comme le rat qui appuie sur un levier et s\u2019aper\u00e7oit qu\u2019il obtient ainsi une boulette de nourriture va avoir le go\u00fbt de r\u00e9p\u00e9ter la chose. Ou comme les addicts des machines \u00e0 sous le font dans les casinos.<\/p>\n Car le terme d\u2019addiction<\/span><\/a><\/span>, on le sait, n\u2019est pas trop fort ici, comme l\u2019explique Paul Lewis dans un excellent reportage intitul\u00e9 : \u00ab ‘Our minds can be hijacked’: the tech insiders who fear a smartphone dystopia<\/span><\/a><\/span><\/strong>\u201d. Du type qui a eu l\u2019id\u00e9e du \u00ab Like \u00bb dans Facebook \u00e0 un autre qui a d\u00e9velopp\u00e9 chez Apple ce qu\u2019on appelle les \u00ab push-notification technology \u00bb qui vous avertissent contiunellement du moindre \u00e9v\u00e9nement, ces gens avouent avoir d\u00e9velopp\u00e9 ces gadgets sans en avoir compris sur le coup les cons\u00e9quences. Et celles-ci peuvent se r\u00e9sumer grosso-modo \u00e0 la victoire de l\u2019impulsion sur l\u2019intention, du sensationnel sur le nuanc\u00e9, bref du bottom up sur le top down<\/span><\/a><\/span>. Autrement dit, c\u2019est Trump dans toute sa splendeur\u2026<\/p>\n