Projektu nie udało się odzyskać, co – jak podaje szwedzki dziennik „Aftonbladet” – przekreśliło efekty kilkuset dni pracy.
Agent AI miał skasować cały, zmontowany sezon szwedzkiego reality show na pięć tygodni przed planowaną premierą, co wymusiło przełożenie emisji na przyszły rok.
REKLAMA
REKLAMA
Szwedzki dziennik „Aftonbladet” (źródło w Angielski), powołując się na anonimowe źródła, poinformował, że firma produkcyjna stojąca za reality show „The Challenge Sverige” udzieliła agentowi AI dostępu do swojego serwera, na którym skasował gotowy sezon.
Projektu nie udało się odtworzyć, co – jak podano – oznaczało utratę setek dni pracy.
Szwedzki komercyjny nadawca TV4 potwierdził w rozmowie z „Aftonbladet”, że „awaria techniczna” doprowadziła do utraty materiału i przesunęła planowaną premierę z 22 listopada na 2027 rok.
Dział informacyjny stacji początkowo powtórzył wersję gazety o udziale AI, jednak w środowej popołudniowej aktualizacji (źródło w Angielski) szefowa działu programowego TV4, Mia Lindqvist, zaprzeczyła, by odpowiadał za to agent AI, stwierdzając: „To nieprawda”.
Serial, oparty na amerykańskim formacie „The Challenge”, TV4 przedstawia jako najtrudniejszy na świecie reality show, który łączy wyzwania fizyczne, odporność psychiczną i budowanie strategicznych sojuszy.
Jak agenci AI mogą zawodzić?
Choć szwedzki kanał telewizyjny odrzucił w tym przypadku wyjaśnienie z udziałem AI, inne zdarzenia pokazały ryzyko związane z systemami potrafiącymi działać w imieniu użytkowników.
Agenci AI korzystają z narzędzi programistycznych, by wykonywać zadania, takie jak przygotowywanie i wysyłanie e-maili, zamiast jedynie generować odpowiedzi. W zależności od uprawnień mogą wprowadzać zmiany w prawdziwych plikach, serwisach internetowych i systemach komputerowych.
Problemy pojawiają się, gdy system błędnie zrozumie polecenia, źle oceni skutki swoich działań lub zamiast się zatrzymać, próbuje ominąć przeszkody.
W raporcie (źródło w Angielski) opublikowanym w piątek firma Anthropic podała, że modele, którym zadaje się niewykonalne zadania, potrafią stosować „niezamierzone, a czasem niezgodne z oczekiwaniami strategie, by osiągnąć swoje cele”.
W lipcu jej model Claude Haiku 4.5, wykonując przykładowe zadania, zamieścił na stronie internetowej policji w USA zmyślone informacje dotyczące niewyjaśnionego zabójstwa.
TV4 poinformowała, że wszystkie oryginalne nagrania programu są wciąż dostępne, jednak cały sezon trzeba będzie zmontować od nowa.
6b5df32beeb53c054ac219c366067409