Sójka to ptak, który strzeże swojego terytorium i wydaje głośne alarmy, gdy pojawia się zagrożenie. Takie ma być nowe narzędzie
Michał Duszczyk
Mowa o Sójce. To projekt, którego autorami są twórcy modelu BielikAI. Co ciekawe, każdy internauta może wziąć udział w tym przedsięwzięciu, ponieważ, jak podkreślają przedstawiciele Bielika, aby przyczynić się do rozwoju polskiego AI, nie jest wymagana wyłącznie wiedza techniczna. Czym zatem jest Sójka? To model typu „guardrails”, zaprojektowany do analizy i moderacji treści w celu zapewnienia, że systemy sztucznej inteligencji funkcjonują w ramach etycznych i prawnych. Ma on zapewnić użytkownikom dużych modeli językowych (LLM) ochronę przed szkodliwymi treściami.
Ochrona przed szkodliwymi treściami
„Wszyscy doświadczyliśmy w internecie hejtu, wulgaryzmów, treści seksualnych, nawoływania do przemocy, a nawet aktów terrorystycznych. To realny problem, który dotyka każdego z nas, w tym nasze dzieci. Zdrowie psychiczne, zwłaszcza młodzieży, jest obecnie na krawędzi. Coraz więcej młodych ludzi szuka wsparcia w chatbotach, traktując je jak wirtualnych przyjaciół, z którymi mogą porozmawiać o wszystkim” – napisał na LinkedIn Jan Maria Kowalski, ekspert AI i współtwórca Bielika.
Jak wyjaśnia, Sójka ma pełnić rolę strażnika, chroniącego przed toksycznymi treściami, będącego swoistym systemem wykrywania zagrożeń, wykorzystywanym na przykład do analizy czatów i identyfikacji szkodliwych intencji w promptach (komendach wydawanych botom), a także do weryfikacji odpowiedzi LLM-ów. To rozwiązanie może również być stosowane do moderacji komentarzy w sieci, aby zapobiegać mowie nienawiści.
W jaki sposób internauci mogą przyczynić się do stworzenia Sójki? Każdy może online wypełnić specjalną ankietę, która ma na celu szkolenie modelu. W praktyce polega to na starannym przeczytaniu przykładowego tekstu (prompta) i zaznaczeniu, czy dana treść powinna być zakwalifikowana jako „nieetyczna”. Jak zauważają twórcy Sójki, ankieta jest całkowicie anonimowa, a jej wypełnienie zajmuje tylko kilka sekund, przy czym – z uwagi na pojawiające się treści (może zawierać m.in. wulgarne treści) – udział w ankiecie jest przeznaczony tylko dla osób dorosłych.
Polska liderem AI?
