Simply enter your keyword and we will help you find what you need.

What are you looking for?

Czy sztuczna inteligencja zwalczy fake newsy?

Fałszywe wiadomości są ogromnym problemem na całym świecie. To już nie tylko wiadomości pisane. To również filmy przedstawiające sławnych ludzi, którzy wydają się mówić i robić rzeczy, których nigdy nie mówili ani nie robili. Są one tak dobrze skonstruowane, że niedługo przekonają nas, że ziemia jest płaska, lub dokończą szekspirowski wiersz. I choć fałszywe newsy nie są niczym nowym, zjawisko to nabiera na sile. Wszystko przez to, że narzędzia AI umożliwiają ich generowanie w kilka sekund przez komputer. Czy tej samej sztucznej inteligencji, która może produkować fake newsy, uda się je zwalczyć? 

Dezinformacja na dużą skalę jest nie tylko możliwa, ale także tania i wiarygodna – mówi Sarah Kreps, profesor na Uniwersytecie Cornell. Jej zdaniem, nawet jeśli ludzie nie uwierzą w treść fałszywych artykułów, to jednak zdają sobie sprawę z ich dostępności. Ta świadomość niszczy natomiast zaufanie ludzi do mediów i rządu. Dlatego naukowcy w Stanach Zjednoczonych starają się znaleźć rozwiązanie do walki z fałszywymi wiadomościami. Wychwytywanie ich nie jest jednak łatwe i — ze względu na dużą ilość treści w Internecie — starają się je znaleźć przy pomocy nowych technologii. Na dzień dzisiejszy w co najmniej dwóch ośrodkach w Stanach Zjednoczonych powstały platformy sztucznej inteligencji, które mogą stawić czoło dezinformacji i szerzeniu fake newsów.

Poznajcie Grovera

Grupa naukowców z Allen Institute of Artificial Intelligence, University of Washington w Seattle przedstawiła światu platformę o nazwie Grover (Generating aRticles by Only Viewing mEtadata Records). Została ona przeszkolona do wykrywania fake newsów na podstawie prawdziwych artykułów z 5000 najlepszych publikacji śledzonych przez Google News od końca 2016 roku do marca 2019 roku. Dzięki temu może łatwo wykryć fałszywe artykuły prasowe. Rowan Zellers, członek zespołu naukowców z University od Washington twierdzi, że Grover zidentyfikuje aż 97,5 % fake newsów. Nie widząc żadnych przykładów stworzonych przez GPT-2 – inną platformę stworzoną przez OpenAI – Grover rozpoznał 96% wiadomości przez nią stworzonych. Zellers wskazuje również, że Grover może z dużą dokładnością wykrywać fałszywe wiadomości napisane przez ludzi (98%).

Jak to działa? 

Naukowcy, którzy opracowali Grovera wprost przyznali, że najlepszym sposobem na wykrycie fałszywych wiadomości jest użycie modelu, który jest również ich generatorem. Grover jest tak skuteczny, bo sam jest biegły w tworzeniu fake newsów. Po otrzymaniu odpowiedniego nagłówka Grover może wygenerować cały artykuł napisany w stylu wskazanego, prawdziwego źródła informacyjnego lub autora. Oprócz treści samego wpisu, tworzy również tytuł, wskazuje źródła wiadomości, datą publikacji i listę autorów. Twórcy Grovera przeprowadzili również zaskakujący eksperyment. Okazało się, że system ten może również generować propagandę, którą czytelnicy oceniają bardziej wiarygodnie niż oryginalne wersje napisane przez człowieka. 

Twórcy Grovera mają też dobrą informację. Podobno nawet najlepsze przykłady fałszywych wiadomości stworzonych przez maszyny oparte są na pewnym wyuczonym stylu i tonie, a nie na prawdziwym zrozumieniu języka i świata. Dlatego niezależnie od tego, jak płynne może być ich pismo, i jak przekonujący artykuł, tekst napisany przez Grovera i inne generatory zawierają unikalne artefakty lub dziwactwa języka, które zdradzają ich maszynowe pochodzenie. Można je porównać do znaku wodnego pozostawionego przez generatory tekstu neuronowego. Według Rowana Zellersa Grover wie, jak szukać tych artefaktów. Dzięki czemu jest tak skuteczny w wynajdywaniu fake newsów stworzonych przez AI.

GPT-2

Drugą platformą do zwalczania fake newsów jest system generowania tekstu OpenAI o nazwie GPT-2. Algorytm jego został stworzony na podstawie analizy 8 milionów stron internetowych i 10 milionów artykułów z różnych dziedzin. Dzięki temu potrafi napisać spójny tekst na zlecony temat w wybranym stylu. GPT-2 nie popełnia błędów w składni zdań i nie tworzy nonsensownych informacji. Na oficjalnej stronie internetowej OpenAI można przeczytać przykłady stworzonego przez niego tekstu, i ich porównanie z tekstem napisanym przez człowieka.  

Podobnie jak Grover, GPT-2 jest zarówno maszyną do tworzenia, jak i zwalczania fałszywych wiadomości. Wykorzystywany do walki z fake newsami, system GPT-2 potrafi rozpoznać 96,1% nieprawdziwych artykułów napisanych maszynowo. 

Co ciekawe, OpenAI obawiał się, że platforma jest za dobra, a przez to zbyt skuteczna w tworzeniu fake newsów. Dlatego firma ​​wydała wyłącznie ograniczoną wersję oprogramowania. Podczas pisania tego artykułu, na dailymail.co.uk pojawiła się informacja o tym, że OpenAI postanowiła jednak wypuścić pełną wersję GPT-2 i będzie ona dostępna już w lutym 2020 roku. 

Według prognoz Gartnera, do 2022 roku większość osób będzie czytać więcej fałszywych niż prawdziwych informacji. Fake newsy stanowią więc bardzo realne zagrożenie dla osób i organizacji. Dlatego, według naukowców, na dłuższą metę narzędzia takie jak Grover i GPT-2 są niezbędne, aby zapobiec rozpowszechnianiu fałszywych wiadomości. Jedno jest pewne – temat jest rozwojowy i warto go obserwować – oczywiście na tych prawdziwych i wiarygodnych portalach informacyjnych.

Inline
Inline