Droit des robots, atteinte à la vie privée, nouvelle médecine assistée par ordinateur, cyborg et transhumanisme, informatique émotionnelle, manipulations mentales, addiction à l’informatique ou guerre numérique… la liste des risques que les Sciences et technologies du numérique (STN) font peser sur la société s’allonge jour après jour. Pour défricher ce terrain, le Comité d’éthique du CNRS (Comets) et l’Institut de recherche en informatique et automatique (INRIA) viennent chacun de publier un rapport sur le sujet. Ils proposent la création d’un Comité d’éthique en STN afin de « mieux identifier les incidences éthiques des recherches menées dans le domaine, de sensibiliser les chercheurs à ces enjeux, de s’assurer que les recherches menées satisfont aux critères éthiques ».
« Les deux organismes ont pris conscience que ces recherches ont un impact considérable sur l’évolution de notre société » explique Jacques Bordé, ancien directeur de recherche au CNRS et membre du groupe de réflexion sur l’éthique de la recherche en STN du Comets. « Au début du travail du Comets, on s’est rendu compte que la réflexion éthique sur la société numérique en général était encore très peu développée. La première étape, qui fait l’objet du rapport du Comets, a consisté à identifier les domaines susceptibles de soulever des questions éthiques. La suite du travail sera de mener une réflexion plus spécifique liée à la recherche dans chacun de ces domaines ».

La responsabilité des chercheurs

« Très peu de chercheurs en STN, ou de décideurs du CNRS se posent des questions éthiques sur l’impact de leurs travaux, poursuit Jacques Bordé. De nombreux responsables de recherche répondent en toute sincérité que les programmes qu’ils pilotent ne concernent que les performances techniques et scientifiques et ne soulèvent donc aucune question éthique ». Si le groupe de réflexion du Comets constate que les chercheurs montrent souvent une certaine insouciance due à une foi dans une science a priori forcément bénéfique pour l’humanité, il relève aussi la facilité avec laquelle ils renvoient entièrement les responsabilités quant aux conséquences de leurs recherches sur ceux qui mettront, finalement en application leurs travaux : classiquement les industriels pour les produits et les politiques pour les régulations. Cette frilosité du monde scientifique se double bien souvent d’une naïveté qui idéalise la solution technologique.
La communication se fait mal ? Il suffit de passer de nouveaux tuyaux, plus larges, plus rapides… Une idée largement dénoncée par Dominique Wolton, directeur de recherche au CNRS, qui affirme que « le progrès technique ne suffit pas pour créer un progrès de la communication humaine et sociale ». Internet nous aide-t-il à mieux nous comprendre ? Rien n’est moins sûr…
Si la réflexion éthique examine en premier lieu la finalité première d’une découverte, elle doit aussi envisager si possible les différentes utilisations qui peuvent en être faites. Le chercheur est alors souvent le premier à pouvoir imaginer ces usages alternatifs, leurs dérives potentielles, et éventuellement reprendre sa recherche pour minimiser les applications néfastes. Par exemple, si les chercheurs avaient anticipé que la gratuité sur Internet entraînerait une prolifération des spams, peut-être auraient-ils conçu Internet différemment ?

La prospective, une denrée rare dans les laboratoires

Pour les experts de l’INRIA et du Comets, « une réflexion interdisciplinaire en amont devrait permettre d’élargir le champ de recherche à l’anticipation des antidotes, ou au développement de technologies capables de s’adapter plus facilement à la réalité des usages ». Favoriser une réflexion éthique de la part des chercheurs implique avant tout d’aiguiser leur sens de l’anticipation et leur capacité à faire de la prospective. Mais « s’aventurer sur le terrain de la prospective ne permet pas de conclusions certaines et les chercheurs n’aiment pas se prononcer sur l’avenir et risquer de se tromper », souligne Jacques Bordé pour qui « cette dimension d’anticipation n’est généralement que peu explorée lors des travaux de recherche ». Il rajoute que « les capacités de prospective des chercheurs sont handicapées par une difficulté à dépasser le cadre rigoureux du laboratoire pour se laisser aller à envisager officiellement des possibles et des objectifs aux franges de la science-fiction ».
Si personne n’attend d’eux qu’ils soient les décideurs exclusifs dans le domaine des STN, tant le Comets que le groupe de l’INRIA estiment qu’ils ont une place à tenir pour anticiper les implications éthiques de leur travaux. « Les chercheurs sont parties prenantes dans la co-construction des choix d’orientation des recherches. Cette situation devrait les pousser à sortir de cette position de non-responsabilité vis-à-vis des impacts et les obliger à se sentir co-responsables », conclut Jacques Bordé.
La prospective, aussi centrale soit-elle pour envisager le développement éthique des STN, n’intéresse finalement que peu de monde. Frilosité des chercheurs, urgence des décideurs qui se focalisent sur des problèmes actuels et législateurs incapables de penser le droit en fonction de problématiques à venir font que la machine technologique, nourrie par la recherche et les débouchés commerciaux, a toujours plusieurs longueurs d’avance sur le politique, le législateur et la réflexion éthique. Dans ce contexte de retard permanent sur les innovations et leurs implications, comment évaluer si un programme de recherche est véritablement une source potentielle de progrès ?

Où sont les besoins et les régulations ?

« Le risque est grand de confondre innovation et progrès, dès lors qu’une innovation qui crée des emplois semble d’emblée une source de progrès positive pour un décideur » souligne Jacques Bordé. Au delà des implications éthiques de la recherche dans les STN, la question fondamentale se pose de savoir si un véritable besoin existe pour ces technologies. Alors que l’informatique émotionnelle pose d’importantes questions éthiques, disposer de robots « sympathiques », d’un frigo « convivial » ou de détecteurs de mensonges pour les chômeurs est-il vraiment nécessaire ? Souhaitable ? Et les enjeux éthiques sont-ils acceptables en regard du soi-disant « progrès » que ces applications devraient réaliser ? Dans ce domaine technologique où l’offre dépasse largement la demande, « la volonté politique tend à pousser la recherche vers les débouchées économiques qu’elle ouvre, plutôt que de répondre à un besoin réellement identifié dans la société » avance Jacques Bordé qui se montre très prudent sur ces nouveautés qui peuvent se révéler n’être que de simples gadgets.
« Les problèmes rencontrés sont souvent dus à la précipitation mise à passer du stade de la conception de ces technologies à leur utilisation massive, dans un contexte dominé par l’importance des enjeux économiques sur un marché mondial », souligne le rapport du Comets. « L’Internet des objets et la prolifération des puces RFID ne risquent-ils pas de transformer notre quotidien en une prison numérique au maillage de plus en plus serré ? », questionne Jacques Bordé qui demande aux chercheurs de se montrer vigilants. Une vision qui inquiète Alex Turk, président de la Commission nationale informatique et libertés (CNIL), s’exprimant à la tribune du dernier débat sur les nanotechnologies le 23 février dernier : « Serons-nous capables de renoncer ou d’interdire des applications ? Lorsque les systèmes d’observation et d’écoute deviendront invisibles, comment serons-nous certains d’être seuls ? » Une réflexion sans concession doit être menée, sans quoi le futur donnerait alors raison à Bill Joy, cofondateur de Sun Microsystems, qui, dans son article intitulé « Pourquoi le futur n’a pas besoin de nous », questionne une humanité qui laisserait le pouvoir aux objets pour décider à sa place.

Le CNRS et l’INRIA souhaitent donc rendre aux chercheurs une part de leur responsabilité en créant un Comité d’éthique multidisciplinaire, incluant tous les laboratoires où sont menées des recherches en STN. Un tel groupe de travail devrait profiter de l’Alliance des sciences et technologies du numérique créée en décembre 2009 pour réunir l’ensemble des acteurs du domaine. Enfin, le groupe du Comets envisage aussi que se constitue un Comité d’éthique sur les STN dont le but serait de s’adresser aux décideurs politiques et économiques, comme le fait aujourd’hui le Comité Consultatif National d’Ethique pour les sciences du vivant.

Rapports du Comets et de l’INRIA :

« Pour une éthique de la recherche en sciences et technologies de l’information et de la communication », rapport du Comets, novembre 2009

« Rapport sur la création d’un comité d’éthique en Sciences et Technologies du Numérique (STN) », INRIA, mai 2009