Geoffrey Hinton uważa, iż jedynym ratunkiem przed AI jest zaprogramowanie w maszynach czegoś na kształt „instynktów macierzyńskich”
Michał Duszczyk
Reklama
Geoffrey Hinton, laureat Nagrody Nobla oraz jeden z pionierów współczesnych sieci neuronowych, znany w branży jako „ojciec chrzestny AI”, zaskoczył słuchaczy podczas swojego wystąpienia na konferencji Ai4 w Las Vegas. Powszechnie wiadomo, że nie jest zwolennikiem szybkiego rozwoju sztucznej inteligencji bez żadnej kontroli. Tym razem jednak wyraził to w sposób wyrazisty. Zdecydowanie skrócił swoje wcześniejsze prognozy dotyczące powstania superinteligencji oraz wezwał do radykalnych zmian w podejściu do jej bezpieczeństwa. Naukowiec stwierdził wprost, że jedynym rozwiązaniem jest zaprogramowanie w maszynach czegoś na wzór „instynktów macierzyńskich”.
Reklama Reklama
AI to „egzystencjalne zagrożenie”?
Hinton przez lata zapewniał, że do stworzenia ogólnej sztucznej inteligencji (AGI) – systemu przewyższającego człowieka w każdym zadaniu – potrzeba od 30 do 50 lat. Na ostatniej konferencji Ai4 w Las Vegas jednak wycofał się z tych oszacowań. Oświadczył, że ten moment może nastąpić znacznie szybciej, być może nawet w perspektywie zaledwie kilku lat. Ta zmiana prognozy idzie w parze z ponurą wizją przyszłości, w której maszyny stają się „znacznie mądrzejsze od nas” i mogą stanowić „egzystencjalne zagrożenie”. Badacz ocenił prawdopodobieństwo, że AI ostatecznie doprowadzi do unicestwienia ludzkości, na 10 do 20 proc. Aby temu zapobiec, trzeba działać z wyprzedzeniem, ale – według noblisty – próby narzucenia maszynom sztywnych reguł i ograniczeń są skazane na niepowodzenie.
– Te systemy znajdą sposoby na obejście kontroli – ostrzegł. Porównał próby zapanowania nad superinteligencją do sytuacji, w której dorosły stara się przekupić dziecko cukierkami, aby osiągnąć swój cel.
Jego zdaniem systemy AI będą mogły z łatwością
