INTERNET EN DEUIL

Une Lueur d'Espoir dans ce Monde de Brutes

Sandia est un laboratoire polyvalent dépendant de la Sandia Corporation, une filiale de Lookheed Martin travaillant pour ld Département de l'Energie des Etats Unis et la Sécurité Nucléaire sous le contrat DE-AC04-94AL85000.

SAND 2005-3093C May mai , 2005

Introduction

Sans cette courte note nous allons passer en revue les interactions entre la technologie et la société ainsi qeu le rôle que peuvent jouer ces interactions vis à vis de mouvements idéologiques et de conflits violents. Nous nous fondons sur les hypothèses suivantes que nous considérons comme plaisible - sans les défendre - et qui suppose que notre monde va évoluer vers le pluralisme, la liberté des marché. On pose que les société démocratiques sont et seront plus et moins violentes que des sociétés qui seraient moins tolérantes, moins capitaliste et moins démocratiques. Nous posons que des sociétés interdépendantes, liées par des liens étroits sont a priori moins enclines à initier des conflits violents avec leurs voisins. La nanotechnologie, la biotechnologie, la technologie de l'information et les sciences cognitives désignées collectivement sous l'appellation NBIC1, et la sociotechnologie de seconde génération seront des siège d'avancées technique durant les décennies à venir. L'aspect le plus significatif sera la convergence de toutes ces technologies ainsi que l'usage qu'en feront les peuples et les sociétés. Le fait qu'apparaîsse des mouvements idéologiques violents, en tant que conséquences directes de ces avancées technologiques - ou en réaction contre celles-ci - est une chose à envisager dans les décennies à venir.

Les effets directs de la technologie sur les idées, les mouvements et les fractures politiques seront beaucoup plus insidieux. Les technologies vont profondément modifier, affermir ou affaiblir les sociétés et représenteront des possibilités de menaces contre les individus, les factions et les nations.

Explorons d'abord à travers un scénario représentant la pire des évolutions possibles l'impact des interactions entre la technologie et la société. Nous noterons différentes tendances dont nous estimons qu'elles seront importantes dans les décennies à venir et nous examinerons leurs implications. Nous mettrons en lumière un impact potentiel se référant à la capacité que pourraient présenter des technologies pour "humaniser" ou "déshumaniser" des individus et des sociétés, selon les usage qui pourront en être faits.

Finalement nous explorerons la science de la complexité et le rôle de celle-ci au moment où nos sociétés, du fait de leur interaction étroite avec la technologie se trouvent au bord du chaos.



Le scénario du pire.

Dans ce scénario du pire, au plan des applications militaires nous envisagerons le déploiement à distance d'essaims de microrobots qui seront à même de localiser, des prendre pour cible et de détruire des personnes et des machines avec une intervention humaine très limitée. Pour des applications plus complexes ces essaims seront guidés par des gens dont les capacités mentales pourront être accrues à l'aide de prothèses et d'outils de communication et d'analyse qui les rendront capables de prendre des décisions en collaboration de manière exceptionnellement rapide dans des situations dynamiques dominées par la confusion et l'ambiguité.

Ce système de symbiose homme-machine migrera du secteur militaire au secteur civil, le but étant de maintenir la paix et de faire appliquer la loi ainsi que vers d'autres secteurs tels que la surveillance, la sécurité et la maintenance d'ensembles complexes et d'infrastructures.

Un petit nombre de terroristes et de criminels seront en état de provoquer des dommages massifs à nos sociétés, ceci incluant l'usage de l'introduction de maladies créées par bio-engineerie pouvant résister à tout traitement ou capables de n'affecter qu'un population ciblée.

Les infractions liées à l'information et les mesures des défense progresseront rapidement de telle manière que les attaques sur les systèmes deviendront chroniques et à large échelle en conduisant à de fréquents emprunts d'identités et à une perte de confiance du public envers son gouvernement et ses structures financières.

Des méthodes des défense par missiles seront facilement dépassées ou surclassées à une époque où notre société, en symbiose avec sa technologie sera au bord du chaos. Des missiles tirés depuis de courtes distances représentant des systèmes d'attaque avec motorisation aérobie sous faible signature pourront délivrer des WMD ( war massive destruction ) en n'importe quel endroit de la planète.

Du fait de la peur de la mort et de la destruction nos sociétés se tourneront vers des protecteurs forts et leurs chefs politiques seront en situation d'accepter une tutelle totalitaire en échange de la promesse que ceux-ci prendront en charge leur sécurité.

Des combats non-sanglants apparaîtront également, où des faisceaux d'énergie ainsi que des agents chimiques ou biologiques conçus pour des attaques permettront de manipuler les cerveaux et le système nerveux des individus ou des groupes en leur infligeant de dommages temporaires ou permanent plus ou moins sérieux. Ceci permettra de remporter des victoires sans endommager les infrastructures de l'ennemi; ceci représente un moyen d'exercer une action politique d'une façon extrême en utilisant un autre moyen que la guerre : c'est à dire en agissant directement sur le mental des populations.

Au moment où j'écris ces lignes les gens sont en train de se préoccuper de la façon dont l'électronique empiète sur leur vie privée sans se rendre compte qu'en s'équipant eux-mêmes de capteurs, de GPS, et de systèmes de communications ceci permet de les suivre à la trace et de prélever nombre d'informations concernant leur vie privée. Nous émettons l'hypothèse que ce phénomène ira en s'amplifiant en accroissant du même coup le contrôle de l'information opéré par le gouvernement. En dépit de cette perte des libertés civiles les gens préfèreront perdre sur la confidentialité de elur vie privée au bénéfice de la commodité d'usage de tels gadgets et de la facilité de communication qu'ils offrent.

Les progrès réalisés dans le domaine de l'électronique, des ordinateurs, et des communications rendront possible le déploiement et la mise en place de dizaine de millions de capteurs permettant de suivre à la trace n'importe qui ou n'importe quoi à l'aide de technologies à la fois bon marché et discrètes.

De tels systèmes seront à même d'analyser, de comprendre ( évocation de l'émergence de l'intelligence artificielle ) des situations émergentes et de dispenser des rapports ou de prendre des mesures appropriées. De tels réseaux auront un champ d'application universel, allant depuis la conduite de frappes à l'aide d'armes évoluant à des vitesses très élevées à la détection de conduites déviantes chez des adolescents.

Les réseaux de capteurs ( puces Fritz des ordinateurs ou puce implantables dans le corps humain ou n'importe où ) altéreront évidemment la frontière entre vie publique et vie privée, réduisant l'individualité, la créativité et conduisant à des sociétés axées sur le contrôle et la manipulation ( type fourmilières ). Dotés de ces nouveaux moyens de contrôler les populations des dictateurs exerceront un pouvoir auquel il sera bien difficile d'échapper et où ces gens seront aussi difficiles à renverser. .

De nouveaux systèmes d'ordinateurs portables et portatifs procureront à la fois de l'information, un plaisir artificiel et intsruiront les gens. De telles technologies pourront donner naissance soit à des sociétés où les individus seront plus étroitement liés les uns aux autres, soit au contraire créer des individus vivant en état d'isolement, chez eux, complètement décérébrés et hypnotisés.

Des prothèses neurales pourront être utilisées soit pour atténuer des douleurs insupportables soit pour procurer du plaisir et ces systèmes auront pour effet de réduire la productivité et la motivation des individus ( en les "légumisant" ). Celui qui pourra exercer un contrôle de tels systèmes se rendra maître de ceux qu'il asservira ainsi.

Les biotechnologies permettant de prévenir les maladies permettront de prolonger la vie des personnes âgées ainsi que des personnes gravement malades, en accroissant les dépenses de santé, ceci ayant pour conséquence une réduction drastique des capacités de soins et de suivi pour les jeunes générations.

De nouvelles méthodes de reproduction ou de clonage produiront des êtres humains coupés de toutes racines familiales qui seront peut être dépourvus de sentiments ou de sens des responsabilités ( faute d'avoir reçu une éducation dans un cadre familial ). Ils auront ainsi perdu ce qui faisait d'eux des êtres humains.

Des machines capables de se reproduire elles-mêmes ainsi que des machines conduites par bio-engineering pourront échapper à tout contrôle naturel, croître sans limite et créer des dégâts imprévus à l'environnement. Les technologies nucléaires ne feront que se déveloper et des explosifs de type nucléaire seront disponibles pour qui voudra, permettant des extorsions de fonds et des attaques occasionnelles.

Comme le climat terrestre est en train de changer rapidement pour des raisons que nous comprenons mal, les sociétés les plus fragiles ne seront pas capables de s'adapter, connaîtront un collapse économique, seront ravagées par des maladies infectieuses tandis qu'on assistera à des migrations massives à destination des pays voisins.

La peur de telles migrations porteuses de maladies incurables amènera les pays encore sains à opérer de véritables génocides sur des populations voisines, par simple exercice de leur instinct de conservation. Beaucoup de nations qui n'auront pas une stature économique suffisante retourneront au stade tribal.

Les fluctuations climatiques rapides amenuiseront les réserves d'eau et, conduisant à la réduction des récoltes se traduiront par des famines. On construira alors des réacteurs nucléaires compacts et on les déploiera de manière à tenter de subvenir aux besoins en énergie et en eau ( dessalement de l'eau de mer ). Mais ceux-ci seront l'objet de sabotages et leurs composants seront acquis par des états-voyoux, des groupes criminels et des terroristes de manières à être convertis en armes nucléaires aux fins de menacer et de prendre en otage les anciennes superpuissances dont le déclin s'amorcera rapidement.



Vers quoi pourraient tendre les sociétés en forte interaction avec leur technologie.

Certains de ces idées peuvent nous paraître assez probables, voire pratiquement inévitables tandis que d'autres peuvent nous sembler d'un coût prohibitif ou même totalement absurdes.

La prédiction la plus favorable serait que la tendance actuelle se maintienne et nous proposons le scénarion ci-après :

1 - Les techniques de communication et celles de l'information modifieront profondément notre conception de la vie privée ainsi que les différentes interactions au sein de nos sociétés.

2 - Les avancées qui seront opérées en neuroscience, nanoscience et en génétique nous amèneront à remettre en question notre conception de ce qui est humain et ce qui ne l'est pas. Ceci conduira à de nouveaux moyens pour influence et manipuler les pensées et les sentiments des autres êtres humains, éventuellement à notre insu.

3 - Des technologies permettant à un petit nombre d'individus d'exercer leur pouvoir sur des masses continueront d'apparaître.

4 - La technologie jouera un rôle croissant dans la mesure où elle sera à la fois la cause des futures crises économiques, environnementales, démographiques, politiques et sociales, ainsi que la manière d'y apporter remède.

Des moyens nouveaux permettront à des groupes très restreints de créer des perturbations très importantes dans le sens de comportements criminels et terroristes et représenteront un défi sérieux pour des gouverments quant à leur capacité de maintenir l'ordre et de faire appliquer les lois. Ces nouveaux moyens de coercition permettront le développement de systèmes totalitaires à une échelle jamais envisagée jusqu'ici ( penser à la Chine ). En même temps ces nouveaux moyens d'action changeront la façon dont le pouvoir politique sera en mesure de s'exercer.

La technologie rendra possibles les choses suivantes : permettre d'accroître la communication entre les individus et les peuples. Accroître les possibilités d'expression, à la fois individuelles et à travers des groupes. Procurer une sens accru de l'identité, développer la curiosité, l'enseignement, l'innovation et la créativité, la compréhension globale ainsi que la productivité. Une etchnologie donnée pourra soit "déshumaniser" les individus, les rendre abouliques et hébétés, soit au contraire les "humaniser" en les rendant plus souples et en les dotant d'une plus large faculté d'adaptation. Les machines peuvent donner aux hommes l'impression d'être surhumains ou au contraire de n'être plus rien. Elles peuvent nous donner accès à des expériences nouvelles et merveilleuses ou au contraire nous transformer en simples spectateurs vis à vis d'expériences vécues par d'autres.

Les application "humanisantes" de la technologie renforcent tissu humain, rendent nos sociétés plus stables, plus ouvertes vers le pluralisme, l'économie de marché (...) et les gouvernements démocratiques (...). De telles applications s'opposent également au développement du totalitarisme. Des réactions vis à vis de technologies déshumanisantes peuvent donner naissance à de nouvelles et nombreuses idéologies et ce mouvement créera certainement un brassage d'idées au sein desquelles celles-ci pourront recruter de nouveaux adeptes.

Mais dans le même temps ces technologies déshumanisantes hypnotiseront et anesthésieront les malheureuses victimes de terroristes et de dictateurs de régimes totalitaires. Le renforcement d'une telle dichotomie suggère un point de vue nouveau. Le choc tedchnologique futur pourrait donner naissance à une convergence des tendances sociales, économiques et politiques qui se trouveraient amplifiées par les révolution technologiques émanant de la nanotechnologie, de la biotechnologie , des technologies de l'information et cognitives.

Mais un futur différent pourrait se profiler où pourraient être exploitées les possibilités offertes par ces technologies, tandis qu'un certain bénéfice pourrait être retiré d'un certain désordre et de la complexité des systèmes humains.

Il existe des systèmes naturels qui se présentent souvent comme s'ils se trouvaient à la frontière du chaos. Or ces systèmes s'avèrent assez résistants vis à vis d'agressions données. Ils présentent un haut degré de différenciation, sont dynamiques et s'avèrent stabilisés par un grand nombre de variables indépendantes. Ils présentent une grande variabilité vis à vis de l'emploi, tout ceci faisant qu'il est très difficile d'anticiper sur leur évolution, ni même d'agir sur eux avec précision. Ces systèmes peuvent supporter une quantité innombrable de dommages mineurs et de catastrophes occasionnelles et présentent de surprenantes capacités de récupération.

Les marchés financier et Internet sont deux exemples de systèmes artificiels qui possèdent en commun cette propriété. Ce sont des systèmes très souples, réagissant rapidement, capables de s'auto-organiser et de s'auto-corriger. Des tels systèmes peuvent être capables d'éviter l'émergence des quatre conséquences les pires de notre scénario-catastrophe.

Trop d'ordre est efficace mais alors totalement tourné vers une homéostasie complète. Cet excès d'ordre rend ces structure fragiles, sensibles à une modification de leur environnement. Ces systèmes trop ordonnées perdent de variété et de leur capacité à encaisser des coups. Ils deviennent ainsi vulnérables à un dommage ponctuel. Leur comportement peut être anticipé et influencé de manière prévisible par un attaquant-manipulateur suffisamment avisé. Dans les sytèmes humains dotés d'une trop forte organisation ( en fait de type totalitaire ) cet excès d'ordre, cette structure hiérarchique tend à rendre les leaders corrompus, lesquels auront alors toute la panoplie des armes technologiques modernes à leur disposition.

Une société plus souple, dotée de facultés d'adaptation, et éventuellement plus désordonnée rendraient possibles de adaptations constantes permettant de déboucher sur un quasi-équilibre, lié à une élasticité sociale préférable aux instabilités soudaines et de vastes ampleur qui peuvent survenir dans des sociétés à pensée unique dépourvues des forces permettant à ces ensembles de retrouver leur auto-contrôle naturel, de restaurer les lois et les institutions démocratiques. De telles sociétés devraient être capables de négocier les vagues des bouleversements technologiques sans subir des dommages cataclysmiques. Ces sociétés resteraient troubles et désordonnées, difficiles, sinon impossible à diriger. Elles seraient le siège d'un nombre inévaluables d'injustices et d'incohérences. Mais elles s'avéreraient résistantes vis à vis des tentatives de déstabilisation émanant de groupes terroristes, de mafias ou de quelque dictateur fou.



Conclusion

Il nous semble que la technologie et la société sont des objets complexes, en interaction. Dans cette note nous avons présenté une vision affligeante en insistant sur la façon dont des applications mal gérées de la technologie pourrait s'avérer dommageable et nuisible au bien-être des êtres humains. Mais ces mêmes technologies pourraient être utilisées par des sociétés capables de s'adapter, de manière à en accepter le défi et à converger vers un mieux-être.

L'histoire qui est présentement en train de se déployer ne sera propbablement ni tout à fait noire, ni tout à fait blanche. Il s'avérera peut-être possible de contenir la montée de la criminalité et du terrorisme tout en préservant les libertés individuelles. Les technologies de la santé pourraient non seulement accroître l'espérance de vie, mais aussi rendre nos vies plus productives. Dans le passé beaucoup d'innovations technologiques ont engendré à la fois un mieux être et un malaise social. Certains sociétés feront un meilleur usage des innovations que d'autres. Une issue positive me semble plus probable pour des sociétés coomplexes, à forte capacité d'adaptation, surfant à la frontière d'une situation chaotique.



Références :

1 Converging Technologies for Improving Human Performance - Nanotechnology, Biotechnology, Information Technology and Cognitive Science (NBIC) Workshop Report, Mihail Roco and William Sims Bainbridge (ed.), NSF/DOC-sponsored report, June 2002

2 G. Yonas and J. Glicken Turnley, "Socio-Tech...The Predictive Science of Societal Behavior," in Mihail Roco and William Sims Bainbridge (ed.), Converging Technologies for Improving Human Performance Workshop Report, June 2002, pp. 140-142