Paulita Paupel, qui dirige la branche européenne de l’organisme commercial de l’industrie pour adultes, la Free Speech Coalition, affirme que la répression a des effets inquiétants sur les gens et leur capacité à partager du contenu en ligne. « Les gens fuient le pays », dit Paupel. “La plupart des grands créateurs de contenu ont déjà changé leur résidence dans d’autres pays européens, principalement l’Autriche, la Suisse et Chypre.” D’autres ont changé leurs stratégies de marketing pour éviter Twitter (ce qui a un impact sur le montant d’argent qu’ils peuvent gagner), et les nouveaux venus dans l’industrie peuvent être découragés de commencer une carrière, dit Paupel. “Cela affecte principalement les créateurs LGBTQI + et BIPOC.”
Internet est, bien sûr, inondé de porno – de Reddit, Snapchat et Twitter à OnlyFans, PornHub et xVideos – avec des millions de personnes à travers le monde impliquées dans l’industrie. À l’échelle mondiale, c’est une grande entreprise, générant des milliards de dollars chaque année. Bien qu’il y ait des répressions contre la pornographie dans le monde entier, l’Allemagne semble avoir une marque d’application particulièrement forte dans le monde occidental, bien qu’elle soit l’un des plus grands consommateurs de pornographie.
“L’Allemagne a été la plus agressive dans la suppression de la parole”, déclare Mike Stabile, porte-parole de la Free Speech Coalition, basée aux États-Unis. “Je pense que l’Allemagne a été la plus agressive dans sa poursuite, à la fois en termes de portée de ses lois, mais aussi d’application.”
Surveillance de l’IA
Depuis 2019, les régulateurs des médias allemands développent puis utilisent un système d’intelligence artificielle pour détecter les contenus en ligne susceptibles d’enfreindre les lois du pays. Le système d’intelligence artificielle, appelé KIVI, a été développé par l’autorité des médias de Rhénanie du Nord-Westphalie, avec une société privée basée à Berlin, et est maintenant utilisé par toutes les autorités des médias en Allemagne.
KIVI est présenté comme étant capable d’analyser les publications publiques sur sept médias sociaux et applications de messagerie, notamment Twitter, YouTube, TikTok, Telegram et VK (la version russe de Facebook), ainsi que des sites Web sur Internet ouvert. Les comptes Facebook et Instagram de Meta, qui interdisent la nudité, ne sont actuellement pas scannés. Selon la description de l’outil en Rhénanie du Nord-Westphalie, il peut vérifier 10 000 pages par jour. Peu de temps après que l’autorité a commencé à utiliser KIVI, elle a déclaré que les détections de l’autorité avaient “monté en flèche”.
Le porte-parole de l’autorité des médias de Rhénanie du Nord-Westphalie affirme que depuis 2021, l’autorité a détecté près de 5 000 “violations”. Le système recherche le contenu problématique en recherchant des mots-clés et des liens allemands prédéterminés, et l’autorité affirme qu’il utilise une combinaison de reconnaissance d’image et de reconnaissance de texte pour détecter les résultats “positifs”.
Ella Jakubowska, conseillère politique principale à l’organisation à but non lucratif European Digital Rights (EDRi), affirme que les droits humains des personnes sont menacés lorsque les entreprises ou les gouvernements de Big Tech gèrent la modération de contenu. “Mais l’idée que des entités étatiques contrôlent ce que nous faisons et ne voyons pas en ligne semble en soi très préoccupante”, déclare Jakubowska.
KIVI recherche plusieurs types de contenu, y compris l’extrémisme politique et la négation de l’Holocauste, la violence et la pornographie. Cependant, les “violations” de la pornographie arrivent en tête de liste, avec 1 944 incidents signalés au cours des deux dernières années, selon les chiffres partagés par l’autorité des médias de Rhénanie du Nord-Westphalie. Le porte-parole dit que le système signale les violations potentielles des lois, puis des enquêteurs humains examinent les résultats et décident si des mesures doivent être prises. “KIVI protège les employés contre une exposition soudaine et inattendue à un contenu stressant”, déclare Plass de l’autorité berlinoise.
