Blog de JP Gouigoux

19/02/2016

Intelligence artificielle, Open Source : les grandes confusions de l’informatique

Filed under: Perso — jpgouigoux @ 8:50

L’informatique… Peut-être le domaine sur lequel les personnes sans aucune connaissance s’autorisent le plus facilement à se prendre pour des experts. Il ne viendra à personne l’idée de faire des recommandations à un agriculteur sous prétexte qu’il a déjà marché dans de la terre, ou de prétendre donner des leçons à la NASA parce qu’il sait trouver la Grande Ourse dans le ciel. En informatique, pourtant, le simple fait d’avoir utilisé un portable permet apparemment à chacun (journaliste, individu lambda, etc.) d’être propulsé comme légataire d’une vérité technique. Nul besoin d’études, ni même de travailler dans le métier, pensez-vous ! “Mon fils sera informaticien, car il fait des jeux vidéo toute la journée” (entendu en réunion parents/profs).

Intelligence artificielle et idiotie bien réelle

Et voilà comment on se retrouve, à un jour d’écart, à lire deux articles sur l’intelligence artificielle dont la juxtaposition peut prêter à rire, mais dont la différence de contenu fera pleurer n’importe quel informaticien (je veux dire, un VRAI informaticien, qui programme professionnellement) :

1) http://www.lemonde.fr/pixels/article/2016/02/17/une-intelligence-artificielle-en-campagne-pour-la-maison-blanche_4866921_4408996.html (un article expliquant que les avancées de l’IA pourrait permettre à un logiciel de veiller aux destinées d’un des pays les plus influents de la planète)

2) https://www.technologyreview.com/s/600796/the-best-ai-program-still-flunks-an-eighth-grade-science-test/ (un article expliquant que les meilleurs programmes d’IA se plantent toujours à un test de connaissance pour collégiens)

Match retour : méconnaissance sociale contre intelligence informatique

Malheureusement, l’inverse est également vrai, et quand de très grands noms de l’informatique commentent des sujets de sociétés, voire éminemment politiques, ça peut faire aussi peur. Exemple : dans le sujet actuel sur Apple qui refuse de se soumettre aux autorités judiciaires de son pays et donner à des agents assermentés le moyen de lire le contenu crypté d’un iPhone ayant servi à un terroriste, Bruce Schneier, un excellent spécialiste de la sécurité informatique, montre bien la limite d’une approche uniquement technique :

Either everyone gets security or no one does. Either everyone gets access or no one does (source).

L’approche binaire (ou bien personne n’a accès au téléphone, ou bien plus personne n’aura de possibilité de garder le contenu de son téléphone privé) marque quand même un sacré manque de recul sur la façon dont fonctionne la société. Le fait que des agents assermentés seuls aient la possibilité – sur une décision d’un juge, de plus – d’accéder au contenu d’un téléphone fait quand même une sacrée différence avec le fait que tout téléphone puisse être espionné. Personnellement, ma réaction est totalement différente si je vois un policier se balader dans la rue avec une arme ou un quidam quelconque avec un fusil sur l’épaule. Mais peut-être que les Américains sont trop habitués à ce que n’importe qui possède une arme (avec les conséquences que nous connaissons)… Au passage, la cryptographie a pendant longtemps été classée comme arme de guerre, avant que la législation assouplisse ceci. Intéressant de voir que la première réaction à la technologie avait parfaitement cerné son potentiel de dangerosité, et avait pris en première approche les précautions nécessaires.

Le mythe de l’Open Source

Pour finir, un mythe très souvent cité en informatique, et qui fera le lien avec la cryptographie : le fait que le code source soit public rend immédiatement le fonctionnement logiciel compris et plus sûr. On dit souvent qu’avec suffisamment de paires d’yeux, tout bug est supprimé. Et pourtant, c’est dans la librairie OpenSSL, certainement un des logiciels scrutés par le plus d’experts en cryptographe, qu’une faille majeure a encore récemment été découverte, quelque temps après heartbleed. Alors, quand Aaaron Siegel explique (dernier paragraphe du premier article cité plus haut) qu’une façon de mettre les gens plus à l’aise avec Watson (le logiciel d’IA d’IBM) serait de mettre le code source de ce dernier en open source, on atteint le domaine de l’escroquerie intellectuelle.

Je vais prendre un exemple : combien de temps faut-il pour comprendre l’algorithme ci-dessous ?

int function( int a[], int l, int r) {
   int p, i, j, t;
   p= a[l];
   i = l; j = r+1;
		
   while( 1)
   {
   	do ++i; while( a[i] <= p&& i <= r );
   	do --j; while( a[j] > p);
   	if( i >= j ) break;
   	t = a[i]; a[i] = a[j]; a[j] = t;
   }
   t = a[l]; a[l] = a[j]; a[j] = t;
   return j;
}

Certains auront peut-être reconnu la fonction de partitionnement de l’algorithme QuickSort, mais la plupart – y compris des développeurs – ont besoin de se plonger dans l’analyse pour déterminer ce que réalise ce code. Or, il se trouve que cette dizaine de lignes réalise une portion de l’opération informatique peut-être la plus courante, lancée des milliards de fois par jour, à savoir le tri d’une liste.

Alors comment peut-on imaginer une minute que publier plusieurs millions de lignes de code va permettre de rassurer “les gens” sur le biais qu’IBM aurait pu inclure dedans ?

Conclusion

L’informatique est un boulot de spécialistes, et le sera de plus en plus, car toutes les briques de base sont désormais stables. Chaque nouvel algorithme qui se base dessus est plus puissant, mais plus complexe.

Ces spécialistes sont souvent trop experts pour avoir le nécessaire recul sur les implications sociales de leur discipline. Or, celles-ci sont de plus en plus importantes, et affectent largement la politique des Etats (confidentialité, cryptographie militaire, lutte pour les matières premières de l’électronique, etc.)

Il est donc nécessaire de créer des ponts, avec des personnes possédant suffisamment de connaissances dans les deux champs pour arriver à en tirer une compréhension partagée des enjeux. Et en attendant, de faire attention à ce qu’on lit (y compris le présent article, écrit par un informaticien). Bref, d’exercer notre esprit critique.

Publicités

Vous préférez quoi ? Un Président de la Nation ou un Président de société ?

Filed under: Perso — jpgouigoux @ 6:03

Préférez-vous être dirigé par un Président élu démocratiquement, ou par quelques présidents de sociétés privées, désignés par des actionnaires ? Il faudra peut-être bientôt se poser sérieusement la question, tant les grandes entreprises multinationales empiètent de plus en plus sur le domaine politique, et se sont libérées dans les dernières années de toute retenue.

Tous les pouvoirs sont aujourd’hui attaqués :

  • Exécutif : Tim Cook refuse l’ouverture à des agents assermentés d’un iPhone, se posant ainsi en défenseur des libertés individuelles, sans aucune légitimité, n’étant lui-même ni magistrat, ni élu, ni même sous une quelconque forme d’assermentation;
  • Législatif, par le lobbying intensif des multinationales, dont les consultants vont désormais jusqu’à proposer des textes de lois “clé en main” aux élus démarchés;
  • Judiciaire : Les traités de commerce en devenir souhaitent instaurer des tribunaux privés se substituant aux autorités judiciaires des pays signataires, Bayer et Syngenta portant plainte contre l’Europe suite à l’interdiction de l’utilisation de leur pesticide, etc.

Les multinationales, plus riches que les Etats désormais (le CA d’Apple est supérieur au PIB du Sénégal) et aidés de quelques états plaçant l’argent au centre de tout (Luxembourg, Liechtenstein, Monaco et dans une moindre mesure Royaume-Uni et Irlande) s’autorisent désormais toutes les audaces. Google pense même à transférer un cerveau humain dans une machine, sans réfléchir une minute aux conséquences sociales de la “singularité”, tout en se débrouillant pour ne payer que 0.03% d’impôts sur les bénéfices, en sortant de l’argent par les Pays-Bas en direction du paradis fiscal que sont les Bermudes (source).

Mais que feront les dirigeants de Bayer et Syngenta s’il est prouvé irréfutablement dans dix ans que leurs pesticides ont entrainé l’extinction des abeilles (avec la conséquence attendue de famines massives, les abeilles étant un des principaux agents pollinisants) ? Un communiqué de presse, certainement. Or, comme pour l’amiante, le mal aura déjà été fait.

Que fera Tim Cook lorsqu’il sera clairement établi que ses efforts de cryptographie des messages ont permis quelques attentats majeurs ? Faudra-t-il qu’il soit touché personnellement ou par un de ses proches pour se rendre compte qu’il y a des vies derrière sa décision orgueilleuse ? Ou écrira-t-il simplement encore une “lettre ouverte à ses clients” ?

Tous les signes montrent qu’il est inutile d’attendre la moindre compréhension des enjeux planétaire par ces personnes. Seuls les intéressent les bilans financiers, la marge brute, la satisfaction du pourcent d’actionnaires qui concentre 90% de la richesse planétaire.

Alors que reste-t-il aux Etats ?

Le “quatrième pouvoir” ? La quasi-totalité des médias sont au main d’intérêts privés, il n’existe plus un seul journal papier dont les actionnaires ne soient pas liés à une grande entreprise. Quelques irréductibles survivent et gardent un œil critique (Arrêt sur Image, Rue89, etc.) mais ont une audience limitée et leur survie est précaire (ASI obligé de lancer une souscription récemment pour payer une amende qui menaçait sa survie).

Le terrain moral ? Il est sapé par l’attitude “tous pourris” de la majorité des citoyens qui ne reconnaissent même plus les 90% d’élus qui font du bon travail et sacrifient tout leur temps libre à prendre des responsabilités de maire, d’adjoint, etc. Même un simple mandat de président ou de trésorier d’association sont désormais proches du sacerdoce, tant les bénéficiaires des associations se comportent désormais en simples usagers, aidant de moins en moins à leur fonctionnement. Les médias ne mettant en avant que les “affaires” et vantant l’individualisme à tout crin, comment expliquer à la masse qu’une société ne fonctionne que par sa solidarité ?

L’éducation ? En tant qu’institution, elle est sans cesse attaquée dans ses fondements, alors que c’est la base de tout. Et elle a fort à faire pour contrer les manipulations des esprits. On en revient du coup aux élections, dont un article montre qu’elles sont fortement influençables par les entreprises majeures d’Internet.

Un retour en arrière dans la civilisation

Ne nous y trompons pas : sous des dehors de progrès, les grandes sociétés privées souhaitent un retour en arrière. Leur gestion de l’emploi (précarité des salariés d’Amazon, contournement de la loi sur le travail, reclassements proposés à l’étranger pour un salaire inférieur, etc.) les fait régresser au 19ème siècle. Leur vision de la société avec des gagnants (les futurs “transhumains” ou “augmentés”) et des perdants (tous les autres) est celle de la noblesse du 16ème.

La société progresse quand elle sait canaliser les puissances d’agir par une violence réduite. L’homme préhistorique a fait un pas vers la société quand il a commencé à échanger de la viande contre des fruits, au lieu que le plus costaud file un coup de massue à l’autre et mange tout. Nos sociétés plus récentes ont fait un pas supplémentaire lorsqu’elles ont réduit au seul Etat la légitimité de la violence, par la création des polices. Aujourd’hui, certains profitent de ce qu’ils perçoivent comme une faiblesse pour prendre des libertés qui ne sont pas les leurs. Tous les autres moyens étant inefficaces, que restera-t-il à nos Etats hors cette seule contrainte physique ? Les Etats ne doivent-ils pas d’ores-et-déjà contraindre physiquement ces entreprises à revenir à leur place ?

La lutte de la Commission Européenne contre la fraude fiscale massive des grandes entreprises donnera certainement la réponse à cette question. Si elle échoue, la marche suivante sera l’interdiction d’exercer ou le découpage (comme en son temps l’empire Rockfeller). Si ces deux approches échouent, il ne restera que la contrainte, en espérant que ces sociétés ne se seront pas armées entretemps, sinon la régression civilisationelle sera brutale et majeure.

Créez un site Web ou un blog gratuitement sur WordPress.com.