Endgame singularity

Lord Vlad Réflexions 2019-09-01
Courte pensée sur l'IA


Cela n'a aucun sens bien sûr, mais il m'arrive de simplement ouvrir mon programme d'écriture, vérifier que des articles ne s'écrivent pas tout seuls et le refermer. De fait si des articles s'écrivaient spontanément, la dernière des causes probables serait que mon ordinateur de bureau normal a soudain atteint la singularité et commencé à s'exprimer justement dans mes notes sous une forme publiable. (cela dit, si cela arrive, promis, je le publie)

J'y repensais à la singularité. Il y a bien des gens qui sont alarmistes à ce sujet, mais comme souvent, j'ai un autre angle d'approche, sinon je ne me permettrais pas de l'ouvrir.

Mais avant tout, récapitulons et définissons pour les lecteurs qui ne seraient pas familiers de la question. Les atomes sont composés de... Attendez... On va commencer plus proche du sujet, ou on a pas fini.

Ce qu'on appelle intelligence artificielle est globalement toute une variété de programmes, comme par exemple celui qui définit le comportement de personnages dans un monde virtuel, ou celui qui décide de la conduite d'une voiture sans pilote. Dans la culture populaire, le plus parlant est sans doute l'idée de Alexa ou Siry. Et la singularité serait un moment, à partir duquel un programme dépasserait sa programmation pour atteindre un avancement technologique qui dépasse ce que peuvent atteindre les humains. La forme que cela prends dans la plupart des fictions, c'est que l'ordinateur ou la machine 'prends conscience' et s'améliore lui-même pour devenir une intelligence supérieure.

Evidemment, cela est pure fantaisie. Comme le naufragé solitaire faisant ami-ami avec un ballon ou une pierre, dans nos îlots de solitude moderne, nous souhaitons que nos objets les plus avancés soient nos compagnons, comme nos aînés le personnifiaient en un monstre froid et incompréhensible. Au final nous sommes des créatures sociales et nous incluons du social absolument partout, surtout là où il n'a rien à faire.

En réalité, un programme devenant conscient n'a pas plus de sens que si l'on disait que le théorème de pythagore devenait soudain conscient. Un programme ce n'est rien de plus qu'une fonction mathématique, on l'écrit, on y rentre des variables et il en ressort d'autres variables.

Que des ordinateurs soient une des raisons de notre destruction, probablement, mais ils le seront non par une volonté de leur part, mais en agissant selon leur code, avec un professionnalisme irréprochable.

L'ordinateur est bien un objet et toute malice que l'on pourrait lui accorder vient en fait de nos propres erreurs. Si vous commandez des milliards de tonnes de papier à un ordinateur et qu'il vous déforeste la moitié de la planète, ce n'est pas un problème d'ordinateur, c'est un problème d'une part de la commande et aussi de restrictions qui devraient être codées dans le programme de toutes façons. Si l'humanité doit être détruite par la technologie, j'ai bien plus peur des développeurs brouillon que des ordinateurs.


Commentaires

Il n'y a pour l'instant aucun commentaire. Soyez le premier !