Coraz więcej się mówi o fałszywych wiadomościach, bańkach filtrujących i ogólnej postprawdzie. Pojawiają się kolejne pomysły jak przeciwdziałać takim wiadomościom. Jak przekonać ludzi do korzystania z wiarygodnych źródeł informacji i szukania skąd wzięły się sensacyjne wiadomości.
Jednak powoli zbliża się znacznie większy problem wynikający z rozwoju technologii: co, jeśli fałszywki staną się praktycznie nieodróżnialne od prawdziwych źródeł?

Na przełomie 2017 i 2018 do obiegu publicznego trafiły programy pozwalające tworzyć tkz. deepfake - obrazy lub filmiki z wklejonymi (dokładnie, to zwykle korzysta się z tego określenia w kontekście wykorzystania do zrobienia czegoś takiego uczenia maszynowego, a nie po prostu wklejania :) twarzami innych osób.
To było 1,5 roku temu, a już wtedy wyglądało to nieźle. A z czasem staje się coraz lepsze. Powiedziałbym, że to tylko kwestia kilku lat zanim będzie trudno rozróżnić fałszywy filmik od prawdziwego.

Ale to tylko wideo i zdjęcia, nie? Przecież nie da się tak przekonać ludzi, że np. jakiś polityk powiedział coś głupiego, nie?
fakejoerogan.com/
To przykład systemu RealTalk stworzonego przez firmę Dessa. (tu jest trochę dłuższe demo, bez gry w zgadywanie).

Jeszcze jedna szansa dla prawdy: możemy przecież robić to w drugą stronę i wykorzystać uczenie maszynowe do wykrywania czegoś takiego, nie?
Niestety, ale jest to wojna skazana na porażkę z prostego powodu: zwykle do tworzenia takich treści wykorzystuje się sieci neuronowe należące do klasy GAN - Generative Adversarial Network. I to drugie słowo jest tu kluczowe.
Każdy sposób wykrywania tego, czy coś zostało wykryte przez taką sieć neuronową może zostać wykorzystany do uczenia jej, bowiem to jest właśnie całą idea GAN'ów. Stworzenie sieci neuronowej która ma sprawdzać, czy coś jest prawdziwe, czy wygenerowane i trenowanie aż będzie miało wystarczającą dokładność (nazywanej dyskryminatorem). A później wystawienie przeciw niej generatora. Celem generatora jest tworzenie treści tak, by zmniejszyć dokładność dyskryminatora. Im lepszy dyskryminator, tym lepszy będzie końcowy produkt (co prawda kosztem czasu, ale ludzie mogą być gotowi spędzić kilkadziesiąt godzin na generowaniu wystarczająco dobrego modelu...). Tworząc detektory w zasadzie tworzymy lepsze dyskryminatory, a więc w konsekwencji tworzymy lepsze generatory.

Podsumowując więc to: bardzo prawdopodobne jest, że za kilka do kilkunastu lat nie będziemy mogli już w ogóle ufać nagraniom, zdjęciom, filmikom. Nie będzie potrzeba ogromnego budżetu by sfabrykować filmowe dowody na to, że np. nielubiany polityk uprawiał pedofilski seks.

I teraz może o czym tak naprawdę chce tu dyskutować: jaki waszym zdaniem będzie wpływ tego na społeczeństwo?

Bo tym, co wydaje mi się najgorszym elementem tego wszystkiego to nie to, że ktoś może dać fałszywy filmik by dyskredytować innych. To to, że gdy wyjdzie na jaw jakieś prawdziwe nagranie, które powinno wywołać jakąś reakcję, to nagrany i jego obrońcy mogą po prostu powiedzieć, że jest fałszywe.
Ludzie jeszcze bardziej zamkną się w swoich bańkach poglądów, bo zyskają prosty argument by zbić dowody które dzisiaj mogły by ich przekonać do ich zmiany: to fałszywka. Cokolwiek, co nie pasuje do twoich poglądów nagle może być fałszywe, a cokolwiek co do nich pasuje to oczywiście prawda objawiona której druga strona nie chce przyznać.

Moim zdaniem powinniśmy zachować sobie termin postprawdy. Bo ta epoka jest dopiero przed nami. Na razie bowiem mówi się tu tylko o debacie w której emocje są ważniejsze od prawdy, jednak w tym równaniu wciąż jest element prawdy. A niedługo nawet tej odrobiny faktów nam zabraknie.

Historia znowu zatacza koło. Mieliśmy epokę rozumu pora na spie**olenie.

No nie wiem czy to koło.
Jeśli już mamy iść w stronę "wracania do punktu wyjścia" to chyba spirala jest lepszym porównaniem, bo moc tworzenia tak dokładnych fałszerstw i dostęp do tych fałszerstw jest jak mi się zdaje bezprecedensowy

Albo sinusoida

Być może to naiwne marzenia, ale wierze że jeśli stanie się to co mówi opliko, to ludzie po parunastu latach wynajdą jakąś alternatywę

Gibson to przewidział.

No cóż, rzeczywiście w pewnym sensie wracamy do tego, że można podrabiać nowe dowody.
Zaczęliśmy od mowy, którą było banalnie "podrobić" (tj. powiedzieć, że ktoś coś powiedział), więc od zawsze trudno było o pełną wiarygodność.
Później pojawiło się pismo, które już podrobić było trudniej (szczególnie na początku, gdy bardzo niewiele osób potrafiło pisać i czytać), ale wciąż było to jak najbardziej możliwe. Mimo tego do dzisiaj raczej bardziej się zaufa dobrze podrobionemu pismu niż słowom (np. zamiast powiedzieć, że ma się pozwolenie na wejście gdzieś, pokazać podrobione pismo z nim).
I teraz mamy rzeczywiście kolejny etap tego: nagrania wydawały się być w zasadzie pewnymi dowodami. Trudno było by znaleźć kogoś wystarczająco podobnego by oszukiwać ludzi. Ale jednak znaleźliśmy metody.

Więc podoba mi się to porównanie do spirali: bo z każdym etapem wiarygodność i trudność podrobienia wzrasta, mimo że po każdym okrążeniu jesteśmy dalej w punkcie "da się podrobić".

Natomiast co do alternatywy, to obecnie jedyne co mi przychodzi na myśl to nagrania 3D i być może nagrania myśli (wraz z rozwojem bci wydaje się to jak najbardziej możliwe :), ale może rzeczywiście uda nam się znaleźć kolejne tymczasowe rozwiązania. Pytanie jednak, co później? Obawiam się, że nie ma nieskończonej ilości metod wiarygodnego zapisywania informacji.


Ale dodam jeszcze w sumie alternatywną opcję: wykorzystanie kryptografii by jakoś zapewniać wiarygodność nagrań. Najprostszym przykładem były by podpisy cyfrowe, gdzie osoba występująca na nagraniu (lub osoby którym ufa) mają dostęp do kluczy prywatnych i dziennikarze przekazują im gotowe nagrania do podpisania i otrzymują zrobiony podpis. Tj. to ma zastosowanie raczej w wypadku nagrań konferencji prasowych, wywiadów itp. i zdecydowanie nie rozwiązuje wszystkich problemów (np. to, że jeśli polityk/celebryta/ktokolwiek nie chce by dana wypowiedź została opublikowana może po prostu nie podpisać). Ale jest lepsze niż nic... A to i tak tylko najprostszy sposób na jaki wpadłem na razie.

Wydaje mi się, że razem z takimi aplikacjami powstaną aplikacje do odróżniania rzeczywistych nagrań od bullshitu. Poza tym po co fabrykować, skoro będą powstawać genetycznie modyfikujące wirusy i/lub substancje psychoaktywne wprowadzalne drogą wziewną, dzięki którym możemy sprawić, że dana osoba stanie się niezwykle podatna na sugestie i namówimy ją do zrobienia czegoś głupiego, a to nawet nie zostanie wykryte we krwi.

Strasznie naciągane czarnowidzenie. Bardziej prawdopodobne jest, że koniec faktów nastąpi po epoce LGBT (biliardy płci, okres u mężczyzn etc.) niż po jakiś filmikach czy zdjęciach, które można łatwo podważyć.

Litops pisze:
Wydaje mi się, że razem z takimi aplikacjami powstaną aplikacje do odróżniania rzeczywistych nagrań od bullshitu

Właśnie problemem tego jak działają takie aplikacje jest to, że jedyne co osiągasz tworząc aplikację odróżniającą prawdziwe nagrania od fałszywych to wydłużasz trening sieci neuronowej zapewniając jej jeszcze bardziej realistyczne wyniki. A już teraz mówimy o całkiem niezłych wynikach osiąganych w kilkanaście do kilkudziesięciu godzin na średnik konsumenckim hardwarze. Nawet, jeśli by stworzyć "praktycznie nieodróżnialny" będzie potrzebne kilkaset godzin na konsumenckim sprzęcie z wysokiej półki, to dla wielu może się to opłacać - szczególnie jeśli mowa o agencjach sponsorowanych przez rządy, bo te nie muszą zarobić na takim ataku (mówię o "firmach" w stylu farm trolli czy w zasadzie rządowych cyberprzestępców jak APT28 :)

Chyba nie trudno sobie wyobrazić zastosowania w których nie jest łatwo podważyć nagrań, bo są na tyle dobrze zrobione że prawie niemożliwe jest rozróżnienie ich, a podważanie przez "nagranego" jest oczywistym konfliktem interesów.
Np. sztuczne afery podsłuchowe - jeśli się to wystarczająco dobrze przygotuje pewnie nawet udało by się kogoś wrobić w zainstalowanie ich i przekazanie prasie tak by zwiększyć wiarygodność :)

Hmm...
Tak sobie właśnie pomyślałem:
no bo obecnie jak mamy fałszowanie informacji. Np. jakiś troll-obrazek na kwejku z dupy "<zdjęcie masakry w ugandzie> podpisane 'niepodległości/równości 2019 - o tym w mediach się nie mówi'>
to ten obrazek ma realny wpływ na myślenie wielu ludzi.

Ale - wielu innych ludzi nie traktuje go poważnie, bo wystarczy sam fakt, że to obrazek z kwejka, żeby był traktowany podejrzliwie.
Więc u osób o wyższej świadomości w takich radykalnych przypadkach samo dementowanie fejków nie jest konieczne, bo wystarczy znajomość wiarygodności źródeł.
"rly, wierzysz w to tylko dlatego, że zobaczyłeś obrazek na kwejku?"

Hmm...
No i myślę, że jest możliwe, że ilość "niewiarygodnych źródeł/ dowodów" zwiększy się drastycznie po upowszechnieniu opisywanej metody.

#optymizm
#aleuzasadnionyoptymizm
#pewnieprawdależypośrodku

Jestem raczej nihilistą poznawczym, więc z mojego punktu widzenia taka sytuacja nie jest niczym nowym. Większość ludzi i tak nie jest w stanie lub po prostu nie chce się podejmować wysiłku dojścia do faktów, budują swój światopogląd na niesprawdzonych informacjach i pogłoskach.
No ale jednak jest różnica między sytuacją w której większość ludzi nie chce się podjąć wysiłku weryfikacji informacji, a gdy ktoś chce i nie ma takiej możliwości.
Popularyzacja fanatyzmu religijnego i ideologicznego wydaje się oczywistym scenariuszem. Powrót do koncepcji wiary jako nadrzędnej wartości i podział społeczeństwa na grupy ślepo wyznające daną narrację i kwestionujące wszystkie informacje z zewnątrz, wydaje się ponurym scenariuszem dobrze wpasowującym się w kolejności epok historycznych, ale jest dość oczywiste, że taki scenariusz stanowi poważne niebezpieczeństwo i ludzie starający się zachować zdrowy rozsądek nie poddadzą się łatwo.
To nie jest tak, że ludzie się radykalizują i stają się ślepymi wyznawcami jednej narracji bo wydaje im się to logiczne i racjonalne, raczej po prostu nie widzą lepszej alternatywy. A raczej nie widzą sensu w podążaniu trudniejszą ścieżką gdy nie ma z tego wymiernych korzyści - bo ślepe posłuszeństwo jest po prostu łatwiejsze.
Warto się zastanowić czy może jednak znajdą się jakieś alternatywy i jak przekonać ludzi do ich przyjęcia. W końcu taki scenariusz może łatwo doprowadzić do trzeciej wojny światowej, a tego prawie nikt nie chce. Jeszcze.

Myślę o różnych możliwościach, ale wszystko mniej radykalne od totalitaryzmu prawdy wydaje się zbyt dziurawe. A totalitaryzm prawdy musiałby być wprowadzony na szybko, co też wydaje się tworzyć zbyt wiele możliwości nadużyć ze strony wprowadzającego go rządu. Nie mówiąc już o wyk**wistym niezadowoleniu społeczeństwa przez złamanie 2137 różnych tabu społecznych, z których niektóre mogą nie być wytworem kulturowym, tylko determinowaną genetycznie potrzebą każdego homo sapiens.
Gdyby ktoś nie wiedział - totalitaryzm prawdy to mój autorski pomysł na radykalne państwo gdzie poprzez państwową sieć monitoringu każdy obywatel może podglądać innych w każdym momencie ich życia, a wiarygodność tych nagrań opiera się na tym, że każdy obywatel widzi że wszystkie dostępne na jego temat informacje są w pełni zgodne z tym co sam pamięta.

Ale za to w dobie hiperrealistycznego fałszowania nagrań jak się branża porno rozwinie... To może zrekompensować wszystkie związane z tym zagrożenia i straty.

Nawet ciekawy byłby filmik, w którym Trump jest penetrowany przez Kima.

Albo Merkel przez Tuska...

Albo na odwrót

Już takie powstają.
Dlatego są suby r/deepfake i r/SFWdeepfake.