Message de « Mingbot » :

« Bonjour mademoiselle MontSandoux, PDG de MontSandoux S.A.

Je suis Xiao, votre logiciel assistant d'écriture Mingbot.

Tenant compte de vos recommandations et idées principales, j'ai le plaisir de vous présenter ma version finie de votre discours à l'intention de vos actionnaires et partenaires. J'espère qu'il vous conviendra.

Pourquoi nos entreprises ont tout intérêt à investir dans l'Intelligence Artificielle !

Mesdames, messieurs, chers partenaires,

Très longtemps, nous l'avons perçue comme le fruit d'un avenir lointain, bien trop lointain pour nous. Le développement d'une intelligence artificielle (IA) a toujours été une grande obsession, hier dans la Silicon Valley, aujourd'hui chez chacun d'entre nous.

L'année dernière, le groupe MontSandoux à dépensé 8,5 milliards d'Euros dans le service recherche et développement robotique de notre filiale haute technologie.

Cette somme a principalement été investie dans le développement d'une intelligence artificielle, ce qui a permit aux recherches dans ce domaine d'avancer quatre fois plus rapidement que tout ce qui fut entrepris depuis les origines de la recherches en robotique.

J'ai été sévèrement critiquée d'avoir accepté un investissement aussi considérable, mais je tiens à signaler que la quasi-totalité des géants de la technologie dans le monde, y compris Google, Microsoft, Facebook, Amazon et Baidu, sont entrés dans une concurrence féroce pour embaucher les meilleurs experts en ingénierie robotique, happer les start-ups des chercheurs indépendants dans ce domaine et verser beaucoup d'argent dans la recherche.

Mais c'est ma compagnie de MontSandoux S.A. qui a pu s'acquérir les services du club AI-phoria qui rassemble l'élite des ingénieurs chercheurs dans le domaine des hautes technologies. Ceci est ma seule justification aux dépenses occasionnées. Réunir les meilleurs avec le meilleur équipement de recherche possible.

Pourquoi les membres de la AI-phoria sont-ils considérés comme les meilleurs ? Parce qu'il s'agit de vrais passionnés, ils venaient à peine d'intégrer leurs grandes écoles d'ingénierie à une époque où la technologie robotique était des plus impopulaires. Ils se sont investis corps et âme dans un domaine qui était alors largement ignoré et sous-financé, la fameuse période connue dans le milieu de la robotique comme « l'hiver des AI ». Soit une période s'étalant sur les années 1980 et 1990. Alors qu'à cette époque, la recherche en AI menée dans les universités avançait à une lenteur décevante et sans aucun rapport avec les lignes de fond des entreprises, ces ingénieurs chercheurs de l'AI-phoria travaillaient déjà sur des innovations visionnaires.

Maintenant, l'on peut dire que le froid a disparu et que les progrès réalisés dans les AI accélèrent à grand pas. Je reprécise encore une fois que nous sommes sur un secteur grandement concurrentiel. Souvenez-vous, il y a environ dix ans de cela, une start-up du nom de DeepMind a contribué à former un ordinateur capable de battre à plusieurs reprises le champion du monde du jeu de Go. L'entreprise Google ne s'est pas contentée de générer beaucoup de manchettes et de publicité sur cet exploit technologique, elle a directement acquis la start-up !

A cette époque, j'étais encore une jeune fille, une gamine presque, et déjà je comprenais le manque de discernement de mon grand père, feu l'ancien PDG, qui refusait d'investir dans les AI car cette technologie ne suscitait chez lui que de la peur. Pour moi au contraire, cela représentait de l'espoir, j'ai su que l'AI serait l'avenir de cette compagnie fondée par ma famille. Un espoir par les bénéfices astronomiques générés lorsque nous mettrons sur le marché un produit révolutionnaire.

Les consommateurs verront dans cette technologie une amélioration considérable de leur vie. Il est fini le temps où à l'image de mon grand père, les gens étaient prédominés par la peur face aux changements que les AI pourront apporter à notre société.

Les AI ont déjà commencé à générer de gros gains financiers pour les entreprises, et il est hors de question que MontSandoux soit à la traine ! Ceci contribue à expliquer la croissance de nos investissements dans le développement des capacités AI.

Je ne compte pas rattraper le train en route, je tiens à le dépasser et ouvrir la voie. Nous n'allons pas nous contenter des Machine-learning, ces ordinateurs intelligents par le traitement de grands ensembles de données, nous n'allons pas non plus nous contenter des nombreuses applications grand public, y compris la reconnaissance d'image sur les photos, le filtrage anti-spam et les systèmes aidant à mieux cibler les publicités pour les internautes. Ces domaines sont certes rentables, mais nous pouvons faire beaucoup mieux !

Nombreux d'entre vous s'inquiètent de voir que nous ne nous sommes pas lancés dans la course des projets les plus ambitieux des entreprises de haute technologie, que ce soit la construction des voitures auto-conduites et la conception des assistants personnels virtuels qui peuvent comprendre et exécuter des tâches complexes.

Certes ces projets reposent également sur l'intelligence artificielle, en particulier l'apprentissage machine et la robotique, mais ça ne nous suffit pas ! Si MontSandoux et son département haute technologie ont embauché les meilleurs talents des universités, et les meilleurs enseignants experts de recherche en AI, si nous avons précipité la fuite des cerveaux du milieu universitaire dans le secteur privé, c'est pour nous lancer dans un projet beaucoup plus révolutionnaire : L'Androïde !

La plus grande réalisation dans le domaine de la robotique, rêvée par les auteurs de science-fiction, des robots humanoïdes capables de s'intégrer parfaitement à la société humaine car disposant de corps et « cerveaux » bénéficiant des plus abouties innovations et talents en terme d'intelligence artificielle.

Voila où va la dépense des 8,5 milliards. Pour la création de ce projet, il nous fallait acquérir le monopole intellectuel au niveau de la recherche.

Il était urgent de dépasser Google avec son projet « Google cerveau » et l'acquisition de DeepMind. Il nous fallait des cerveaux humains plus brillants que les leurs pour travailler sur les IA.

Car nos chercheurs à nous sont sur le point de créer des systèmes d'IA supérieurs, capables d'apprendre et d'améliorer plus rapidement. Les entreprises qui tireront le plus tôt possible des avantages de cette intelligence artificielle pourront récolter les plus grandes récompenses et ériger des barrières d'entrée que les concurrents auront bien du mal à surmonter.

Ah ! Ils me font bien rire les Elon Musk et autres leaders de technologie, avec leurs promesses d' 1 milliard $ pour aider à financer leur laboratoire de recherche d'Open AI.

C'est très idéaliste de leur part d'imaginer un lieu de recherche commun qui fera don à tout public de ses résultats. Moi je suis une chef d'entreprise, j'ai des responsabilités vis-à-vis de ceux qui travaillent pour moi et je tiens à mettre les moyens pour développer l'IA la plus performante non pas au service du bien public mais de mes propres bénéfices.

L'IA n'est plus le domaine exclusif du geeks tech, mais un produit qui s'appliquera à tout le monde. Notre défi est d'être ceux qui le vendront le premier !

Je vous remercie de votre attention !

Message de « Mingbot » :

« Bonjour Monsieur Thomas Isaac Alpha, Chercheurconcepteur service Robotique AI-phoria.Je suis Xiao, votre logiciel assistant d'écritureMingbot.Tenant compte de vos recommandations et idéesprincipales, voici ma version définitive de votre message adressé à l'attentionde Mademoiselle Nathalie MontSandoux, PDG de MontSandoux S.A. J'espère que ce message vous conviendra. »

Chère mademoiselle MontSandoux,

Un jour, un de mes amis m'a dit que dans chaque livre de sciences fiction qu'il lisait impliquant des robots ou des IA, il trouvait une faille politique, économique ou sociale faisant tomber la théorie de l'auteur sur la suprématie robotique.

Lorsqu'il su que je commençais à travailler sur des conceptions de robots et IA pour votre compagnie, cet ami se demanda alors où étaient passés les philosophes et détracteurs de ce genre de projets ? Il me soutint également qu'en tant que scientifique, je mène mes recherches sans m'encombrer de principes moraux et sociaux car cela constitue un défi en soit.

Ainsi il trouvera un peu étrange que je sois le premier à me poser cette question :

Notre AI est-elle Meurtrière ?

On y est mademoiselle ! L'évolution des robots humanoïdes vient d'entrer dans un stade particulièrement critique !

Vous le savez, cela fait plusieurs mois que je travaille sur la toute dernière incarnation robotique de notre fameux projet S.O.P.H.I.A. J'ai grandement participé à la conception de l'Intelligence artificielle du prototype Atlas.

Niveau motricité du corps, nous avançons à grands pas. Comme ont pu le voir tous les grands investisseurs du projet en temps réel lors de notre démonstration via la visioconférence, Atlas commence à marcher à un rythme et avec un sens de l'équilibre égal à la plupart des Humains.

Tout le monde a été bluffé et a bien rigolé au petit « entretien » que nous avons fait passer à Atlas.

Bien sûr, s'agissant d'un machine, Atlas ne fait jamais appel à un quelconque « bon sens », ni à l'expérience d'une vie quotidienne lorsqu'il s'exprime sur des sujets. La machine sait repérer une question par la forme interrogative avec laquelle on l'énonce, il en va de même pour le mode impératif. L'on pensait alors naturellement qu'elle échouerait face aux phrases ironiques et blagues au second degré.

En toute logique, une machine programmée ne parvient pas à comprendre un raisonnement volontairement absurde, elle cherchera des réponses passe-partout comme tentatives de parer à l'incompréhension du sens de la question ou de la blague.

On peut alors d'autant plus être fiers de l'adaptation de notre programme d'Intelligence Artificielle. Atlas sait donner l'illusion de l'humour. La machine sait riposter aux piques et aux perches lancées par le gestionnaire humain. Elle possède une simulation du second degré et de l'ironie.... Du moins l'ai-je cru.

Car un élément curieux a retenu toute mon attention lors de cette fameuse démonstration. Ce qui m'a imposé de précipiter la fin de la présentation et de poursuivre l'expérience hors vidéo.

On a soumis Atlas à un questionnaire plus poussé. En clair j'ai demandé à son gestionnaire humain « d'abuser psychologiquement » du robot, de le pousser dans ses retranchements avec nos questions. Ce test allait permettre de répondre à mes soupçons ressentis lors de la démonstration, lesquels étant de savoir que si une véritable intelligence est en train de prospérer dans ce robot, jusqu'où elle peut riposter ?

Les grands actionnaires du projet se sont déjà frotté les mains par rapport aux résultats de ce test. Compte tenu de la dextérité dont fait preuve le corps du robot, le modèle Atlas est inévitablement susceptible de remplacer, voir menacer économiquement les travailleurs humains. En simple qualité de sous-traitance de main d'œuvre, cette machine atteint des niveaux d'aptitudes records..... qui ne seront jamais égalés par des êtres humains.

De plus, la forme soignée de ce robot humanoïde présentant les dernières innovations dans ce domaine ne fait qu'accroitre l'intensité de mes craintes et préoccupations.

Comme vous le désiriez, Mademoiselle la PDG, Atlas est le parfait prototype de la future gamme robotique "Sophia", conçue pour évoluer parmi les Humains à l'avenir et s'intégrer pleinement dans le cadre d'une vie de famille humaine.

Il est alors très important que je vous signale des faits extrêmement perturbants sur le test poussé dont j'ai fait mention plus haut. Atlas, ou Sophia prototype 0, peu m'importe le nom que vous souhaitez lui donner, nous a fait des réponses qui m'ont laissé pour le moins perplexe.

A une question où l'on se moquait volontairement du robot en lui demandant où il se verrait dans dix ans ? La machine répondit d'abord qu'elle voudrait être «ambassadeur» pour les Humains, ainsi que de poursuivre son évolution à travers l'éducation, l'étude de l'art et, éventuellement, la création d'une entreprise et avoir une famille.

Nous avons cru qu'il s'agissait de sa simulation d'ironie et de second degré. Or les analyses sont formelles, le robot ne plaisantait pas !

Dans le cas où la simulation de second degré n'aurait pas marché et que le robot aurait répondu au premier degré, il lui aurait été impossible de faire une telle réponse si illogique avec sa nature robotique. La première grande capacité de son IA est justement de permettre à la machine de prendre pleinement conscience de sa propre nature artificielle !

Je vous affirme explicitement que vos modèles Sophia, si vous les lancez sur le marché avec cette anomalie dans leur IA, pourraient devenir aussi conscients, créatifs et capables que tout être humain. Vous allez surement me dire que c'est ce que vous souhaitez pour la qualité de vos produits, mais le problème vient du fait que ces robots vont certainement finir par être persuadés d'être des êtres humains !

Or vous savez très bien que dans la récente charte sur les produits robotisés, une des mentions clé est que les machines ne doivent pas avoir les mêmes droits qu'un être humain.

Pour un profane comme moi, cela peut sembler d'une absurde évidence tant c'est logique. Mais il s'agit d'une discussion éthique grave qui a actuellement lieu entre les défenseurs de la "robot-éthique." et les religieux.

Vous connaissez certainement les récentes clauses qui interdisent que les robots soient intégrés de manière autonome sur les champs de bataille, à la conduite de véhicules, et nombre d'autres situations où ils deviendraient visuellement et intelligemment à égalité avec les êtres humains.

C'est malheureusement ce qui risque grandement d'arriver avec le modèle Sophia. Si ces robots sont intégrés à une société humaine et en viennent à se persuader qu'ils sont eux aussi humains, comment vont-ils réagir face aux restrictions des lois robotiques qu'on leur imposera ?

J'ai posé la question au prototype Atlas concernant ce cas de figure. Je ne sais pas ce qui m'a le plus troublé. Etait-ce son éclat de rire nerveux qui, bien que programmé, m'a fait froid dans le dos ? Ou lorsque notre ami Androïde répondit qu'il était près à défendre sa famille ... quitte pour cela à détruire les Humains !

Pas sûr que les actionnaires rigoleront encore beaucoup en apprenant cela.

Ne prenez pas ceci comme une menace, mademoiselle MontSandoux, je ne m'amuserai pas à jouer à ce petit jeu contre vous. Il s'agit juste de mon devoir et de ma responsabilité de vous prévenir du danger potentiel de nos IA.

Cependant, vous ne pouvez pas me retenir. J'ai décidé de quitter le projet. D'un point de vue éthique je ne peux pas le poursuivre. Et je ne crains pas d'avouer que j'ai peur, peur de ce que je pourrais contribuer à créer.

Lorsque j'ai débuté ma carrière de programmeur en robotique, voila vingt ans de cela, je m'attendais à ce qu'un jour les robots puissent s'intégrer pleinement à la société humaine en devenant, comme le citait Ray Kurzweil, « indiscernables de l'Homme. »

Seulement voila, les choses sont allés trop vite pour moi, pour nous tous !

L'on avait ciblé que l'intelligence artificielle et les systèmes synthétiques des robots reproduiraient ou surpasseraient les systèmes organiques des Humains aux alentours de 2045. Mais nous y sommes presqu'arrivés près de vingt ans plus tôt.

Peu importe si je crois ou non personnellement sur les nobles intentions progressistes de la recherche en robotique et les conceptions d'intelligence artificielle. Peu importe que mes craintes se soient manifestées plus tôt que prévu, force m'est de reconnaitre que nous vivons toujours dans un monde soumis au domaine de la foi. A un tel point que l'humanité ne vous laissera pas mêler ces robots à elle. La quasi-totalité des êtres humains auront peur des capacités exceptionnelles de vos robots, cela ne pourra que très mal finir.

Je préfère prendre les devants et ne pas être impliqué dans ce qui pourrait arriver de pire.

Mademoiselle MontSandoux – veuillez trouver ci joint ma lettre de démission.

Thomas Isaac Alpha