Technologie | Les erreurs peu fascinantes de Facebook

Même les petites erreurs de Facebook ont ​​de grandes conséquences. (Mais seulement pour nous.)

Cet article fait partie de la newsletter On Tech. Voici une collection de colonnes du passé.

Dans un groupe Facebook pour jardiniers, les systèmes automatisés du réseau social ont parfois signalé des discussions sur un outil courant dans la cour, comme les propos sexuels inappropriés.

Facebook a bloqué les comptes amérindiens il y a des années parce que ses ordinateurs croyaient à tort que des noms comme Lance Browneyes étaient faux.

La société a refusé à plusieurs reprises les publicités d’entreprises vendant des vêtements pour personnes handicapées, principalement dans un désordre qui a confondu les produits avec des promotions médicales, ce qui est contraire à ses règles.

Facebook, qui s’est rebaptisé Meta, et d’autres réseaux sociaux doivent rendre des jugements compliqués pour équilibrer le soutien à la liberté d’expression en excluant les contenus indésirables tels que les images d’abus sexuels d’enfants, l’incitation à la violence et les escroqueries financières. Mais ce n’est pas ce qui s’est passé dans les exemples ci-dessus. C’étaient des erreurs commises par un ordinateur qui ne pouvait pas gérer les nuances.

Les réseaux sociaux sont des espaces publics essentiels, trop vastes et en mouvement rapide pour être gérés efficacement par n’importe qui. Des appels erronés se produisent.

Ces erreurs peu attrayantes ne sont pas aussi importantes que de décider si Facebook doit expulser l’ancien président américain de son site Web. Mais les gens ordinaires, les entreprises et les groupes qui servent l’intérêt public comme les organes de presse souffrent lorsque les réseaux sociaux coupent leurs comptes et ne peuvent pas trouver d’aide ou comprendre ce qu’ils ont fait de mal.

Cela n’arrive pas souvent, mais un petit pourcentage d’erreurs de la taille de Facebook s’additionnent. Le Wall Street Journal a calculé que Facebook pourrait faire environ 200 000 faux appels par jour.

Les personnes qui font des recherches sur les réseaux sociaux m’ont dit que Facebook – et ses collègues, même si je vais me concentrer sur Facebook ici – pourraient faire beaucoup plus pour faire moins d’erreurs et atténuer les dégâts en cas de dysfonctionnement.

Les erreurs soulèvent également une question plus vaste : Sommes-nous d’accord avec les entreprises sur le fait qu’elles sont si essentielles que lorsqu’elles ne corrigent pas les erreurs, nous ne pouvons pas faire grand-chose ?

Les détracteurs de la société et du comité de surveillance semi-indépendant de Facebook ont ​​déclaré à plusieurs reprises que Facebook devait permettre aux utilisateurs dont les messages ont été supprimés ou les comptes désactivés de déterminer plus facilement les règles qu’ils ont enfreintes et de faire appel des condamnations. Facebook en a fait partie, mais pas assez.

Les chercheurs veulent également creuser dans les données de Facebook pour analyser sa prise de décision et la fréquence à laquelle elle échoue. L’entreprise a tendance à opposer cette idée comme une intrusion dans la vie privée de ses utilisateurs.

Facebook a déclaré qu’il s’efforçait d’être plus transparent et qu’il dépensait des milliards de dollars en systèmes informatiques et en personnes pour superviser les communications dans ses applications. Les gens seront en désaccord avec ses décisions de poste, quoi qu’il arrive.

Mais ses détracteurs disent une fois de plus qu’il n’en a pas fait assez.

« Ce sont des problèmes légitimement difficiles et je ne voudrais pas faire ces compromis et ces décisions », a déclaré Evelyn Douek, chercheuse principale au Knight First Amendment Institute de l’Université de Columbia. « Mais je ne pense pas qu’ils aient encore tout essayé ou investi suffisamment de ressources pour dire que nous avons le nombre optimal d’erreurs. »

La plupart des entreprises qui commettent des erreurs font face à de graves conséquences. Facebook le fait rarement. Ryan Calo, professeur à la faculté de droit de l’Université de Washington, a fait la comparaison entre Facebook et la démolition de bâtiments.

Lorsque les entreprises démolissent des bâtiments, des débris ou des vibrations peuvent endommager des biens ou même blesser des personnes. Calo m’a dit qu’en raison des risques inhérents, les lois aux États-Unis obligent les entreprises de démolition à un niveau de responsabilité élevé. Les entreprises doivent prendre des mesures de sécurité et couvrir éventuellement les dommages. Idéalement, ces conséquences potentielles les rendent plus alertes.

Mais Calo a déclaré que les lois sur la responsabilité d’Internet n’ont pas fait assez pour tenir les entreprises responsables des dommages que les informations, ou en les limitant, peuvent causer.

« Il est temps d’arrêter de prétendre que c’est si différent des autres types de préjudices à la société », a déclaré Calo.

Avant que tu partes…

Avant que tu partes…
© nyt.com

Perte de contact avec le monde : Une éruption volcanique et un tsunami ont détruit les lignes de communication des Tonga et ont rendu difficile pour les étrangers de savoir ce qui se passait dans la nation insulaire du Pacifique ou de coordonner l’aide d’urgence, rapporte ma collègue Natasha Frost. Voir l'article : Netflix : 40 des meilleurs films absolus à regarder. MIT Technology Review examine également ce qui sera nécessaire pour réparer les connexions Internet par câble et par satellite sous-marines uniques des Tonga, qui peuvent toutes deux avoir été endommagées.

Le voyage d’un homme dans la théorie du complot de QAnon, puis en arrière: un homme de Brooklyn nommé Justin a parlé à NBC News de la façon dont sa famille, la violence du soulèvement du Capitole de l’année dernière et la méfiance d’un général envers les gens l’ont aidé à s’éloigner lentement des théories du complot.

Un site gouvernemental qui fonctionne ! Mardi, le service postal américain a commencé à recevoir des commandes en ligne pour expédier des tests Covid gratuits aux domiciles des Américains. Plus d’un million de personnes ont visité le site Web du gouvernement à un moment donné mardi, et la plupart ont bien fonctionné, rapportent mes collègues Sheryl Gay Stolberg et Lola Fadulu.

Relatif à partir de 2021 : Pour renforcer la confiance dans le gouvernement, il serait utile que le site Web fonctionne.

Un câlin à ça

Ce petit garçon qui pellette la neige est épuisé (DEEP SOIPH) et veut tout vous dire. Sur le même sujet : La plus grande entreprise détentrice de bitcoin n’est ni Square ni Tesla.

Nous voulons de vos nouvelles. Dites-nous ce que vous pensez de ce bulletin et ce que vous aimeriez que nous explorions d’autre. Vous pouvez nous contacter à [email protected]

Si vous n’avez pas encore reçu cette newsletter dans votre boîte de réception, inscrivez-vous ici. Vous pouvez également lire les colonnes précédentes de On Tech.

Articles en relation