Facebook lance une intelligence artificielle pour tenter de prévenir le suicide

En novembre 2017, Facebook a fait le choix de lancer mondialement une intelligence artificielle précédemment testée aux États-Unis. Ce programme avait comme objectif de détecter le contenu des utilisateurs pouvant avoir lien avec des pensées suicidaires. Certaines phrases et mots clés seraient donc ciblés plus particulièrement afin que les employés de la compagnie puissent prendre les mesures nécessaires pour empêcher certains membres de mettre leur vie en danger.

On pourrait donc ici parler de police privée, non-étatisée visant le maintien de l’ordre dans la cybercommunauté de Facebook. Ceci dit, on peut tout aussi bien parler de sécurité publique, dans la mesure où l’entreprise, bien qu’elle soit privée à l’origine, cherche à s’insérer dans la collectivité mondiale pour mieux la servir. Il faut aussi savoir que les employés qui se voient attitrer la tâche de superviser ces opérations sont encouragés à collaborer avec la force policière locale. L’intelligence artificielle agit donc comme une forme moderne de proto-police; un hybride entre police privée et publique, pour ainsi dire.

Avec le suicide qui s’impose comme cause de mortalité importante dans plusieurs pays occidentaux, certains encouragent les mesures de préventions appliquées par Facebook. Cependant, ces actions ont mis à l’avant-scène un débat qui ne date pas d’hier. La question d’invasion de la vie privée se pose de nouveau, notamment dans le contexte du  règlement européen sur la protection des données personnelles. Selon cette nouvelle loi, Facebook ne peut pas intégrer son intelligence artificielle dans tous les pays de l’Union européenne.

Bien que les prétextes de Facebook soient nobles, on peut se demander si ses actions récentes sont réellement nécessaires. Dans sa théorie du contrat social, Hobbes, un des premiers penseurs des fondements de la police, veut que l’attribution du responsable du respect de la loi  se fasse dans la soumission complète des citoyens à un tiers parti. Selon lui, il est impossible qu’une société civilisée ne sombre dans le chaos naturel de l’homme sans contrôle coercitif. Cette théorie s’inscrit en fait dans la logique que la liberté individuelle est inexistante lorsque l’on vit dans la peur constante de violence. De ce fait, abandonner une part minime de sa liberté semble inconséquent devant la possibilité de ne plus en avoir du tout. On peut donc se demander si l’impact de la surveillance par intelligence artificielle de Facebook empêche à ses membres de sombrer dans le chaos de l’indiscipline. Cependant, avec Facebook qui n’agit pas concrètement au nom de l’État, les moyens qu’elle prend peuvent parfois sembler illégitimes. En théorie, seul le gouvernement est en mesure de justifier sa surveillance. Et même si l’on accorde à Facebook la légitimité d’agir de par sa collaboration avec la police, la théorie d’absolutisme de Hobbes n’est pas universellement acceptée. Avant la police moderne que l’on connaît, ce n’était pas le chaos. Serait-on capables d’autodiscipline en tant que simples citoyens? Est-ce que la soumission est absolument nécessaire?

Au fil du temps, la soumission à l’autorité perd de sa fonction protectrice de l’État. On cherche plutôt à mieux faire fonctionner les sociétés. Des institutions qui misent sur la rationalité se concrétisent; l’homme choisit de se soumettre à une autorité quelconque non pas par peur ou par obligation morale, mais par une évaluation des coûts versus les bénéfices. La transaction de la liberté individuelle sacrifiée en échange d’une protection étatique se voit constamment réévaluée.

Ainsi, il n’est pas surprenant de voir quelle tournure la cyber surveillance a pris dans les dernières années. En effet, depuis les attentats de 2001 aux Etats-Unis, la sécurité publique est devenue la priorité absolue pour tous les pays occidentaux. Si la plus grande puissance mondiale de l’époque pouvait se faire infliger une telle attaque, plus aucun pays n’était en sécurité. Dans les années qui ont suivit, alors même que la technologie évolue plus vite que jamais, les mesures de sécurité ont évolué avec elle. C’est en 2007 que le monde entier se verra questionner les limites de l’intrusion de l’État dans la vie privée de ses citoyens. Le scandale de la NSA a enflammé des nations en entier. Jusqu’où est-ce que le gouvernement était-il véritablement prêt à aller pour assurer la sécurité publique? À ce jour, l’étendue de la main invisible du gouvernement américain demeure inconnue de la plupart des citoyens.

Au final, la population se voit, au courant des dernières décennies, constamment questionner la rentabilité de l’abandon de sa liberté individuelle en ce qui a trait à sa vie privée pour permettre une pseudo-protection préventive par l’État et, désormais, par des corporations qui connaissent les moindres détails de sa vie. Si l’on a constamment peur d’être surveillé et de perdre sa liberté, ne dirait-on pas que c’est comme si l’on en avait aucune?