Cet article fait partie de la newsletter On Tech. Voici une collection de colonnes passées.
Dans un groupe Facebook pour jardiniers, les systèmes automatisés du réseau social ont parfois signalé des discussions sur un outil de jardin commun comme des propos sexuels inappropriés.
Facebook a gelé les comptes de certains Amérindiens il y a des années parce que ses ordinateurs croyaient à tort que des noms comme Lance Browneyes étaient faux.
La société a rejeté à plusieurs reprises les publicités d’entreprises vendant des vêtements pour personnes handicapées, principalement dans une confusion qui confondait les produits pour les promotions médicales, ce qui est contraire à ses règles.
Facebook, qui s’est rebaptisé Meta, et d’autres réseaux sociaux doivent faire des choix délicats pour équilibrer le soutien à la liberté d’expression tout en excluant les contenus indésirables tels que les images d’abus sexuels sur des enfants, les incitations à la violence et les escroqueries financières. Mais ce n’est pas ce qui s’est passé dans les exemples ci-dessus. Ce sont des erreurs commises par un ordinateur qui ne pouvait pas gérer les nuances.
Les réseaux sociaux sont des espaces publics essentiels qui sont trop grands et trop rapides pour que quiconque puisse les gérer efficacement. De mauvais appels se produisent.
Ces erreurs peu glorieuses ne sont pas aussi importantes que de décider si Facebook devrait expulser l’ancien président américain de son site Web. Mais les gens ordinaires, les entreprises et les groupes servant l’intérêt public comme les agences de presse souffrent lorsque les réseaux sociaux coupent leurs comptes et qu’ils ne peuvent pas trouver d’aide ou comprendre ce qu’ils ont fait de mal.
Cela n’arrive pas souvent, mais un petit pourcentage d’erreurs à la taille de Facebook s’additionne. Le Wall Street Journal a calculé que Facebook pourrait faire environ 200 000 appels erronés par jour.
Les personnes qui font des recherches sur les réseaux sociaux m’ont dit que Facebook – et ses pairs, même si je vais me concentrer sur Facebook ici – pourraient faire beaucoup plus pour faire moins d’erreurs et atténuer les dommages en cas de gâchis.
Les erreurs soulèvent également une question plus importante : sommes-nous d’accord avec le fait que les entreprises soient si essentielles que lorsqu’elles ne corrigent pas les erreurs, nous ne pouvons pas faire grand-chose ?
Les détracteurs de l’entreprise et le comité de surveillance semi-indépendant de Facebook ont déclaré à plusieurs reprises que Facebook devait permettre aux utilisateurs dont les messages ont été supprimés ou dont les comptes ont été désactivés de comprendre plus facilement les règles qu’ils ont enfreintes et de faire appel. Facebook en a fait une partie, mais pas assez.
Les chercheurs veulent également creuser dans les données de Facebook pour analyser sa prise de décision et la fréquence à laquelle il se trompe. L’entreprise a tendance à s’opposer à cette idée comme une intrusion dans la vie privée de ses utilisateurs.
Facebook a déclaré qu’il s’efforçait d’être plus transparent et qu’il dépensait des milliards de dollars en systèmes informatiques et en personnes pour superviser les communications dans ses applications. Les gens seront en désaccord avec ses décisions sur les messages quoi qu’il arrive.
Mais ses détracteurs disent à nouveau qu’il n’en a pas fait assez.
“Ce sont des problèmes légitimement difficiles, et je ne voudrais pas faire ces compromis et ces décisions”, a déclaré Evelyn Douek, chercheuse principale au Knight First Amendment Institute de l’Université de Columbia. “Mais je ne pense pas qu’ils aient encore tout essayé ou investi suffisamment de ressources pour dire que nous avons le nombre optimal d’erreurs.”
La plupart des entreprises qui commettent des erreurs font face à de graves conséquences. Facebook le fait rarement. Ryan Calo, professeur à la faculté de droit de l’Université de Washington, a fait la comparaison entre Facebook et la démolition de bâtiments.
Lorsque les entreprises démolissent des bâtiments, des débris ou des vibrations peuvent endommager des biens ou même blesser des personnes. Calo m’a dit qu’en raison des risques inhérents, les lois américaines obligent les entreprises de démolition à un niveau élevé de responsabilité. Les entreprises doivent prendre des mesures de sécurité et couvrir éventuellement les dommages. Ces conséquences potentielles les rendent idéalement plus prudents.
Mais Calo a déclaré que les lois qui régissent la responsabilité sur Internet ne faisaient pas assez pour tenir les entreprises responsables des dommages que les informations, ou de les restreindre, peuvent causer.
“Il est temps d’arrêter de prétendre que c’est si différent des autres types de préjudices sociétaux”, a déclaré Calo.
Avant de partir…
Câlins à ça
Ce gamin qui pellette de la neige est épuisé (DEEP SIGH) et veut tout vous raconter.
Nous voulons de vos nouvelles. Dites-nous ce que vous pensez de ce bulletin et ce que vous aimeriez que nous explorions d’autre. Vous pouvez nous joindre à ontech@nytimes.com.
Si vous ne recevez pas déjà cette newsletter dans votre boîte de réception, veuillez vous inscrire ici. Vous pouvez également lire les anciennes colonnes On Tech.
