J’ai fait un compte rendu de la discussion entre ces deux talentueuses personnes. Le CEO de Facebook et l’écrivain dont j’ai lu les livres Sapiens, Homo Deus et le dernier, 21 leçons du XXIe siècle, je ne l’ai toujours pas terminé. La vidéo est dispo ci-dessous et sur Youtube. J’ai mis en italique les propos qui sont de ma réflexion et non explicitée par l’un des deux protagonistes.

Cette conversation nous amène à traiter divers sujets tel que le danger que représente la polarisation des « fabricants » d’IA chinois et américains. Comment éloigner les populations des extrêmes (autant religieux que politiques) ? Comment agir dans un monde si aucune décision n’est prise par notre libre arbitre mais suggérée par des recommandations ? Nous verrons comment Zuckerberg défend (avec adresse je trouve) chacun des points.

En conclusion je dis mon point de vue sur une idée. Peut-être que j’écrirai un autre billet sur une idée issue de ce dialogue, à voir, tu peux toujours commenter sur mon Twitter, Linkedin, Facebook ou autres !

TD;LR Je retiens 3 idées :

• Dans un futur proche, Facebook ne souhaitera plus garder les gens aussi longtemps sur sa plateforme. Ils veulent que les gens se rencontrent (physiquement).
• L’objectif premier de Facebook était de créer des communautés. Maintenant le projet est de rendre les gens prospère. Car les populations vivantes dans la prospérité sont moins orientées vers les extrêmes politiques et religieuses.
• L’IA est un progrès technologique et le déploiement de ce progrès ne peut être régulé que par la politique. Zuckerberg est favorable à la GDPR Européenne car elle pose un cadre légal sur l’exploitation des données personnelles.

La première question est posée par Harari.

La technologie connecte les gens mais est-ce que la technologie harmonise les relations ?

Harari pose la question à Zuckerberg : le but de l’application Facebook (et celle des autres géants du numérique) est de garder le plus longtemps possible les gens sur le mobile (capter l’attention est devenu un enjeu crucial) alors que la finalité d’un monde meilleur est de faire en sorte que les gens se voient dans le réel. Se voir réellement signifie une déconnexion donc moins de temps connecté.

Zuckerberg répond, qu’ils sont en train de changer leurs programmes. Les optimisations d’aujourd’hui feront que, dans un futur proche, ils auront de moins en moins la nécessité de garder les gens le plus longtemps possible. Cela est possible car les connaissances sur les gens deviennent de plus en plus fines et une statistique sur un groupe est assez pertinente pour généraliser une population plus conséquente – va voir le film The Great Hack dispo sur Netflix.

Une politique mondiale

Harari soulève le problème de l’IA et d’une guerre mondiale imminente. La course à l’IA dans le domaine militaire fait rage. Même en période de paix, il y a une course à l’armement pour garder son avantage militaire. Pour lui, il est nécessaire d’avoir une politique mondiale qui permet de régler les problèmes globaux.

Zuck lui répond qu’il y a deux choses. D’abord si on veut agir au niveau local, il faut pouvoir le faire (je pense qu’il sous-entend que ce n’est pas si facile). Et si on agit directement au niveau global, les personnes (locales) ne vont pas voir leur intérêt et donc n’auront pas (la) confiance (politique) à des projets globaux.

Une politique locale avant globale

Zuckerberg ajoute que si les gens sont attirés par les extrêmes c’est parce qu’ils n’ont pas accès à des communautés saines près d’eux. De plus, c’est aussi lié à la perception de la vie, si une personne vit dans la prospérité, il n’y verra pas du bien dans les extrêmes. Donc pour Zuck, le défi global est d’amener la prospérité pour toutes les populations et assainir les communautés locales.

Harari rebondit et dit que l’Histoire est remplie de personne qui se sentait bien, qui avait une belle vie et pourtant ont commis des actes atroces. Durant l’empire romain, le commerce triangulaire etc. les gens ont agi sans même savoir que c’était mal.

Zuck dit que ces gens étaient une minorité de la classe sociale de ces époques. Pour lui, de toute façon le débat n’est pas dans les convictions des personnes déjà convaincue mais justement des personnes qui ne se sentent pas considérées (encore une perche pour voir The Great Hack et comment Cambridge Analytica a fait pencher la balance pour l’élection de Trump et le Brexit).

Ces personnes inconsidérées veulent donc des approches radicales, ces personnes-là veulent coûte que coûte des solutions radicales (et donc se radicalisent – qui dit « se radicalisent » signifie qu’ils ne l’étaient pas et le sont devenues). Zuckerberg admet que justement Facebook peut avoir un impact dans l’augmentation de ce phénomène.

Le problème est économique et social

La mondialisation a sorti des centaines de millions de personnes de la pauvreté. Cependant, dans les pays développés 5 à 10% de la population est entrée en concurrence avec les pays voisins, avec des lacunes de compétences. En d’autres termes ce sont une part de la population qui se retrouve sur le carreau.

Zuckerberg continue d’expliquer son approche stratégique, ces personnes-là dans chaque pays peuvent avoir une force terrible et amener les extrêmes (voir le pouvoir des minorités de Taleb). Donc en pensant « politique globale » il faut s’occuper d’eux localement. Et si l’utilisation de ces outils fonctionne pour eux (à améliorer leur vie) alors on peut étendre la politique sur le global. Zuck rajoute que, la mission de Facebook est bien de connecter les gens mais maintenant la principale mission est de créer des communautés locales et de rapprocher les gens.

L’IA et le machine learning sont un danger imminent

Harari prend la parole et exprime qu’il y a un déséquilibre mondial car une population aux Honduras qui se plaint sera toujours moins vu qu’une ville entière américaine qui manifeste. Pour lui le problème des polarisations des communautés sur Facebook sera un problème vite résolu, en revanche, le vrai problème est la direction économique des nouvelles tech. Notamment que le danger imminent est l’IA et le machine learning.

Zuckerberg répond qu’en effet, le problème des communautés n’est qu’un symptôme et qu’il sera résolu mais guérir un symptôme n’est pas guérir le vrai problème. Pour lui, la racine de tout mal, vient du bonheur de l’individu. Si la personne se sent épanouie avec des liens sociaux riches, nous sommes des animaux sociaux. et quand tout va bien, les Hommes sont calmes (pas de guerre, pas de radicalisation, plus de bienveillance – notre époque est la plus pacifique de tous les temps car nous vivons dans une prospérité grandissante).

Harari dit qu’il y a deux problèmes liés à l’IA.

1. Elle est gérée par deux entités politiques fortes (la Chine et USA) du monde et que cela donne un avantage incommensurable sur les autres nations.
2. Que se passera-t-il lorsque l’IA sera assez mature pour hacker l’humain ? Hacker dans le sens où l’IA sera capable de mieux comprendre qui je suis, que moi-même. Qu’elle fera les choix pour moi.

L’IA est un progrès technologique

Pour Zuck, l’IA est un outil qui est utilisé dans nombreux domaines d’activités. C’est un progrès technologique (au même titre que l’invention de l’écriture, car l’utilisation est différente et permet d’améliorer plein de secteur en même temps – dans un laps de temps très court et de manière durable).

Pour Zuckerberg, oui l’IA est codée majoritairement en USA mais l’implication des applications va dans le sens d’améliorer les conditions de vie des gens du monde entier. Alors certes les gens de Zambie n’ont pas les moyens de pouvoir créer du code eux-mêmes mais cela n’empêche pas qu’ils puissent bénéficier des services « américains » à moindre coût (car les valeurs de liberté d’expression par exemple, y sont conférées dans ces produits/services et par capillarité apporte ces valeurs dans d’autres régions).

Harari demande : alors est-ce que tu penses que le Honduras va entrer dans la course à l’IA ou déjà c’est trop tard ?

Le CEO de Facebook répond que l’essentiel des codes sources des entreprises USA qui travaillent dans l’IA sont ouverts (en open-source). Alors oui dans 20 ou 50 ans, je n’exclue pas la possibilité que dans un pays que tu cites, pourrait être créer et offrir des nouveaux services liés à l’IA.

Mais du coup il retourne la question, est-ce que la recherche, les codes sources, tout cela doivent-ils être ouverts ?

Zuckerberg est favorable à la GDPR

Zuck est favorable à la GDPR car c’est un système mieux qu’un système autoritaire. Le système autoritaire exigerait que les data soit dans le pays hôte et accessible par l’Etat ou l’armée à n’importe quel moment.

Harari rétorque que si je suis en Inde et j’entends le président USA dire « les USA d’abord », pourquoi voudrais-je que mes data soit stockées aux USA plutôt que dans mon pays ?

Zuck dit qu’il vaut mieux un système de protection comme GDPR, qui vient d’Europe d’ailleurs et non USA, plutôt qu’un pays autoritaire ou répressif. Joli contournement de la question. Facebook se veut être extrêmement fiable avec la sécurité des data et empêcherai tout gouvernement à avoir accès aux données de leur population. A voir sous quels critères Facebook travaille avec la NSA.

Harari demande comment pourrait-on limiter la surveillance et la manipulation par l’IA à un outil qui protège le public – plutôt qu’il se transforme en un outil suprême de contrôle des populations ?

Zuckerberg met en avant que ce soit plus un problème politique qu’un problème lié au développement technique. Pour lui, l’IA est une forme de mathématique appliquée et les avancées sont des améliorations des algorithmes. En Chine, s’ils développent la reconnaissance faciale à outrance c’est parce que c’est autorisé et encouragé par la politique et non par « le progrès technologique ». Le progrès est amélioré par la politique dans cette version et ensuite cela devient un processus économique.

Sauvons la démocratie

Le système démocratique laisse la parole aux gens et les gens sont de plus en plus soucieux de leur données personnelles. Donc Zuckerberg conclus qu’une mauvaise utilisation politique des data fera descendre les gens dans la rue. Mais pour que les gens aient le pouvoir de dire ce qu’il pense, il faut donc sauvegarder la démocratie.

Avons-nous toujours notre libre arbitre ?

Harari demande si nous arrivons dans un monde où nous sommes totalement influencés, nos prises de décisions ne seront plus issues du libre arbitre car nous serons submergés de recommandation. On ne prendra plus de décision « brute » mais des décisions sur la base de recommandation.

Zuck dit que nous sommes loin d’un monde où l’IA se comporte comme ça et puis le problème est plus politique que « plate-formiste ». De plus, nous vivons dans l’ère de conversation, discutons, nous avons plusieurs sources de recommandation, nous avons toujours le choix avant d’agir. Nous avons pleins d’outils nous sommes justement plus aguerris à la prise de décision.

En aucun cas on va suivre aveuglément une unique recommandation (cela signifie que nous serions dans un régime totalitaire, et donc le problème revient…. À la politique encore une fois). Justement le but de Facebook n’est pas de cloisonner les gens mais qu’ils puissent se poser des questions, de s’informer, et donc de ne pas aller dans les extrêmes.

Facebook veut nous rendre heureux

Pour conclure, je suis agréablement surpris par cette initiative. Quoiqu’il en soit, il est certain qu’une des entreprises qui connait le mieux la psycho-sociologie de l’ensemble des populations sur le globe est Facebook.

La conversation a été intéressante et je soulève ce point : Facebook a pour objectif premier de rendre les gens plus heureux.

Comment vont-ils procéder ? Est-ce que cela va passer par un revenu universel ? Est-ce que cela va être un produit ou un service d’assurance santé ? J’avais émis cette hypothèse d’un « hôpital Google » que j’avais énuméré dans ce billet.