Google nie chce być używane przez amerykańską administrację, w szczególności boją się przekazania współpracownikom Trumpa systemów sztucznej inteligencji. – Pragniemy, żeby AI służyła społeczeństwu, a nie była stosowana w sposób nieludzki lub nadzwyczaj szkodliwy – napisali w komunikacie cytowanym przez "Financial Times". Dotyczy to głównie tajnych akcji militarnych.
Ponad 560 pracowników Google'a wnioskowało w liście do dyrektora generalnego Sundara Pichaia, aby nie wyraził zgody na zastosowanie sztucznej inteligencji, czy to jako narzędzie autonomiczne, czy poprzez powszechną inwigilację. Zatem wydaje się, że mogą trwać negocjacje Ministerstwa Wojny w sprawie Gemini, a przynajmniej na to wskazuje charakter pisma.
Jak zaznaczają, powszechna inwigilacja stanowi bezpośrednie niebezpieczeństwo dla amerykańskich wolności obywatelskich. "To nie jest iluzoryczne niebezpieczeństwo, my już uczestniczymy w tych starciach" – podkreślają.
Nie chcemy być utożsamiani ze stratami, dlatego jedynym wnioskiem jest odrzucenie wszelkich niejawnych zadań. [….] W przeciwnym razie mogą być stosowane bez naszej wiedzy lub możliwości powstrzymania operacji – dodają w tekście.
Jak podkreślają, podjęcie złej decyzji obciąży reputację Google'a, interesom korporacji i jej funkcji na świecie. "Kiedy stawka jest wysoka, nasi liderzy potrafią podejmować właściwe dla siebie i dla globu decyzje" – konkludują.
Google dyskretnie zmodyfikowało zasady dotyczące AI
Pismo sygnowali m.in. pracownicy DeepMind zajmujący się AI dla Google'a oraz zatrudnieni w dziale Cloud. 18 z nich to osoby z wyższych stanowisk m.in. kluczowi inżynierowie, dyrektorzy bądź wiceprezesi. Dwie trzecie z sygnatariuszy wyraziło zgodę na ujawnienie swoich danych osobowych.
To nie pierwsze spięcie związane ze współpracą Google'a z armią. W przeszłości m.in. pracownicy protestowali przeciwko Projektowi Maven, który używał AI przy atakach z użyciem dronów. W rezultacie koncern nie przedłużył porozumienia.
Kiedy zdawało się, że zarówno załoga, jak i kierownictwo, mają zbliżone podejście, okazało się, że ze zbioru reguł dotyczących AI Google usunął zapis, że "powstrzymają się od prac nad uzbrojeniem i innymi technologiami, których celem lub zastosowaniem jest sprawienie lub bezpośrednie doprowadzenie do skrzywdzenia ludzi". Wówczas tłumaczono to faktem, że od czasu przejęcia DeepMind w 2014 roku, świat się odmienił, a wiele modeli AI jest już ogólnie dostępnych. Ponadto argumentowano, że big techy powinny współuczestniczyć w obronie państwa.
Bitwa o AI: Anthropic na cenzurowanym, OpenAI przeprasza
Czas napisania listu nie jest przypadkowy. Trwa bowiem spór między start-upem Anthropic a Pentagonem. CEO Dario Amodei odmówił bowiem nieograniczonego dostępu amerykańskim wojskowym do modeli AI i nalega na wprowadzenie odpowiednich limitów. W odpowiedzi Anthropic został uznany za "niebezpieczeństwo", a prezydent Donald Trump zabronił jego wykorzystywania. Następnie firma OpenAi podpisała własną umowę z rządem. Po serii krytyk CEO Sam Altman przeprosił, nazywając to posunięcie "oportunistyczne i nierozważne".
opr. aw