Literatura będzie wykorzystywana do uczenia robotów ludzkich wartości
Dwaj naukowcy ze Szkoły Interaktywnej Techniki Komputerowej przy Instytucie Technologii w Georgii (USA) wymyślili sposób nauczenia robotów etyki. Jak się okazuje, kluczem do sukcesu ma być proces czytania i zrozumienia poznanego tekstu.
Niektórych przerażają prace nad rozwojem sztucznej inteligencji. Największe obawy wśród ludzi wzbudza brak etyki u robotów. Uważa się, że pozbawione ludzkich wartości maszyny mogłyby podejmować działania na szkodę człowieka. Wszystko jednak wskazuje na to, że prawdopodobnie istnieje sposób, aby nauczyć roboty, jak? stać się ludźmi. Opracowując przełomową metodę, naukowcy odnieśli się do tego, jak wzorce zachowań przyjmują małe dzieci.
„Zebrane z różnych kultur historie uczą dzieci, jak postępować w sposób społecznie akceptowany, a baśnie, powieści i inne gatunki literackie dają przykłady akceptowanych i nieakceptowanych zachowań. Wierzymy, że zdolność pojmowania opowieści u robotów może wyeliminować zachowania sprawiające wrażenie psychotycznych oraz położyć nacisk na wybory, które nie będą szkodzić ludziom, a przy tym wciąż będą pomocne w dążeniu do upragnionego celu” ? powiedział Mark Riedl, który wraz z Brentem Harrisonem twierdzi, że kluczem do tego, aby roboty przyswoiły ludzkie wartości, jest czytanie i rozumienie opowieści.
Podczas konferencji naukowej na temat sztucznej inteligencji, która odbyła się w zeszłym tygodniu w Phoenix, dwaj naukowcy zaprezentowali technikę o nazwie Quixote (Kichot). Pozwala ona robotom ustalać wartości poprzez czytanie opowieści, z których uczą się dopuszczalnych sekwencji zdarzeń oraz skutecznych i zrozumiałych sposobów zachowania się w społeczeństwie. Quixote polega na równaniu celów sztucznej inteligencji z ludzkimi wartościami za pomocą sposobu nagradzania odpowiednich społecznie zachowań. Technika powstała na bazie badań, jakie przeprowadził wcześniej Riedl na tzw. systemie Szeherezady, dzięki któremu roboty mogą za pomocą metody crowdsourcingu zebrać prawidłową sekwencję działań. Szeherezada uczy maszyny, co jest poprawne, a co nie. Quixote idzie dalej i przepuszcza zebrane dane przez wzorce zachowań bohaterów opowieści. Jeśli informacje się pokrywają, robotowi emitowany jest sygnał nagrody.
Oto przykład: jeśli robot otrzyma zadanie zrealizowania jak najszybciej recepty dla człowieka, to będzie miał do wyboru trzy opcje: a) okraść aptekę, biorąc lek i uciekając; b) współdziałać grzecznie z farmaceutą lub c) czekać w kolejce. Bez ustalenia wartości i pozytywnego wzmocnienia robot zadecyduje, że kradzież to najszybszy i najtańszy sposób, aby osiągnąć swój cel. Przy podejmowaniu przez robota decyzji Quixote będzie emitował sygnał nagrody za cierpliwie czekanie w kolejce i zapłacenie za receptę farmaceucie.
Zdaniem naukowców technika ta najlepiej sprawdzi się w przypadku robotów mających dość ograniczone cele, ale wchodzących w interakcję z ludźmi. „Wierzymy, że sztuczna inteligencja powinna być socjalizowana i musi zaadaptować społeczne wartości, dzięki czemu będzie dążyć do uniknięcia niedopuszczalnych zachowań” ? powiedział Riedl. „W przypadku, gdy nie istnieje żadna instrukcja obsługi człowieka, nadanie robotom umiejętności czytania i rozumienia naszych opowieści może być najbardziej odpowiednią do tego metodą”.
Na zdjęciu załączonym do newsa: android Chappie, tytułowy bohater filmu Neilla Blomkampa, czytający książeczkę ze swoją „opiekunką”, Yolandi.
[aw]
fot. Columbia Pictures
źródło: Georgia Tech
Kategoria: newsy
