Pułapka automatycznej cenzury
Nieoczekiwany (czy na pewno?) finał używania sztucznej inteligencji do cenzurowania i blokowania kont użytkowników oskarżanych o złe intencje.
Google odmówił przywrócenia konta ojcu, po tym jak niesłusznie oznaczył medyczne zdjęcia pachwiny jego syna jako materiał przedstawiający wykorzystywanie seksualne dzieci (CSAM). Taką informację podał New York Times.
Mark, zrobił zdjęcia pachwiny swojego syna, aby wysłać je do lekarza, gdy zorientował się, że ma stan zapalny. Lekarz wykorzystał ten obraz do zdiagnozowania jego syna i przepisania antybiotyków. Gdy zdjęcia zostały automatycznie przesłane do chmury, system Google zidentyfikował je jako CSAM.
Dwa dni później Gmail Marka i inne konta Google, zostały wyłączone z powodu „szkodliwej treści”. Stanowią one „poważne naruszenie zasad firmy i może być nielegalne”, podał NY Times. Później dowiedział się, że Google zgłosił także inny film, który miał na swoim telefonie. Wydział policji w San Francisco wszczął w jego sprawie dochodzenie.
Mark został oczyszczony z wszelkich wykroczeń kryminalnych, ale Google powiedział, że podtrzymuje swoją decyzję o blokadzie konta.
Eksperci twierdzą, że próba zastosowania technologicznego rozwiązania problemu społecznego jest nieuniknioną pułapką. Szczególnie w obecnych czasach, gdy nacisk zideologizowanych środowisk doprowadza polityczną poprawność do granic absurdu. Wiele firm stoi w obliczu presji regulacyjnej i społecznej, aby pomóc w rozwiązaniu rzeczywistego problemu istnienia materiałów związanych z wykorzystywaniem seksualnym.
„Firmy te mają dostęp do niezwykle inwazyjnej ilości danych o życiu ludzi. A mimo to nie mają kontekstu, w jakim naprawdę toczy się ludzkie życie”. Powiedział Daniel Kahn Gillmor, starszy technolog kadrowy w American Civil Liberties Union (ACLU). „Jest wiele rzeczy, w których sam fakt twojego życia nie jest tak czytelny dla tych gigantów informacji”.
Dodał, że korzystanie z tych systemów przez firmy technologiczne, które „działają jako pełnomocnicy” dla organów ścigania, naraża ludzi na ryzyko „wciągnięcia” do rozgrywek pomiędzy władzą a społeczeństwem.
Czytaj także: Zakaz działalności Google’a za „terroryzm”
