Uczenie maszynowe kontra trolle - Google Perspective
Uczenie maszynowe to podstawa
Tak zwane machine learning to dziedzina nauki bazująca na sztucznej inteligencji. Eksperci z pogranicza informatyki czy robotyki oraz programiści starają się za jej pomocą zastosować w praktyce dokonania SI – ich celem jest stworzenie systemu, który sam będzie doskonalił się przy pomocy gromadzonych danych. Maszynowe uczenie się rozwija się bardzo dynamicznie – co widać w praktyce.
Jak zapowiadaliśmy pod koniec zeszłego roku na naszym blogu, w 2017 może czekać nas prawdziwy przełom, jeśli chodzi o wykorzystanie machine learning. Obecnie do głównych sfer zastosowań tej metody należą:
- informatyka – np. programy bazujące na wykorzystaniu mowy i komend głosowych,
- automatyczne tłumaczenia,
- motoryzacja – nawigacja, kierowanie pojazdami,
- medycyna – rozpoznawanie chorób na podstawie objawów.
Google Perspective – brzmi pięknie, ale…
Według badań Googla ponad 70 procent mieszkańców Ameryki było świadkami prześladowania w sieci. Nic więc dziwnego, że technologiczni pionierzy postanowili zająć się tym problemem. Nowy projekt – Google Perspective - ma spełniać dwie podstawowe funkcje: analizować komentarze i klasyfikować je jako neutralne lub „toksyczne”.
Toksyczne – to znaczy?
Na potrzeby Perspective zdefiniowano toksyczność jako niegrzeczny, obraźliwy lub nieracjonalny komentarz, który może skłonić Cię do opuszczenia dyskusji. Google przeprowadziło badania na grupie osób, która miała ocenić komentarz internetowy w skali od „bardzo toksyczny” do „bardzo zdrowy” – na podstawie tej skali toksyczności wprowadzono do systemu dane na temat tego, co robot ma uznać za niedpuszczalne.
Tak jak inne systemy oparte na uczeniu maszynowym, Perspective miało w założeniu polepszać się wraz z intensywnością użytkowania. Przyszłość jawiła się więc w jasnych, pozytywnych barwach, aż do czasu… zderzenia z rzeczywistością. Od samego początku trollowi internauci wymyślali sposoby na obejście systemu – dodawali litery do obraźliwych wyrazów, celowo robili literówki lub np. zastępowali litery liczbami.
Trolle górą?
Po analizie ostatnich danych można dojść do niewesołego wniosku – skoro Google Perspective nie daje sobie rady z trollami, to kto da? Na szczęście powstają coraz to nowe programy oparte na uczeniu maszynowym, a niesfornym internautom może w końcu też skończą się pomysły na sprytne oszustwa systemu. Jest także inna możliwość – od jutra wszyscy postanowimy zachowywać się kulturalnie nie tylko na żywo, ale i online. Możliwe? Cóż, nadzieja podobno umiera ostatnia.
Źródła: komputerświat, komputerświat, Google Perspective, Blog Sunrise System
