15 / 15Blok III · Analityk & Architekt w erze AI

Trzy tygodnie, jedna osoba i agent dla dziennikarzy śledczych

Maciej Obarski · TVN Warner Bros. Discovery
Maciej Obarski, TVN Warner Bros. Discovery - relacja z konferencji 15/15

„Ile osób liczył zespół?”

„Dokładnie jedną. Byłem to ja”.

Sala zaczęła bić brawo.

Wcześniej Maciej Obarski z TVN opowiedział, ile trwało zbudowanie agenta, który pomagał dziennikarzom śledczym w pracy z aktami (nie tylko) sprawy Jeffreya Epsteina. Od pierwszego spotkania z dziennikarką do działającego rozwiązania minęły trzy tygodnie. Trzy tygodnie pracy siedem dni w tygodniu, po 13 godzin dziennie.

Tym wystąpieniem zakończyliśmy konferencję „Analityk i Architekt w erze AI”. Maciej zaczął od zastrzeżenia: „Nie jestem ani analitykiem, ani architektem”. Ale już po kilku minutach nikt nie miał wątpliwości, że jego historia pasuje tu idealnie.

Dżed, wirtualny współpracownik

Maciej ma za sobą ponad 20 lat pracy: zaczynał jako inżynier oprogramowania dla telekomunikacji, potem była bankowość, inżynieria danych i data science. Z TVN-em współpracuje od dziesięciu lat. Ze wszystkich systemów, które zbudował, ten uważa za najciekawszy.

JEDD (wymawiane „Dżed”) to skrót od Journalistic Evidence Data Digger. Na początku oznaczał jednak Jeffrey Epstein Data Digger, bo powstał jako pomocnik do pracy z ogromnymi aktami tej sprawy.

Dżed to agent, który działa cały czas w tle. Maciej porównał go do wirtualnego współpracownika. Dziennikarze piszą do niego tam, gdzie piszą do ludzi: przez Telegram, Signal albo WhatsApp, mailem, a nawet wiadomościami głosowymi. Zadania można mu też zlecać na tablicy projektowej w GitHubie i tam je komentować.

Dziś skonfigurowanych jest 27 kont, a z narzędzia aktywnie korzysta kilkunastu dziennikarzy śledczych. Dżed trafił nawet na samą górę strony głównej TVN24. Jak zaznaczył Maciej, nie dlatego, że coś zepsuł, tylko dlatego, że redakcja chciała pochwalić się wynikami śledztwa. Zespół pokazywał go też na międzynarodowej konferencji dziennikarzy śledczych.

Akta Epsteina

Praca nad sprawą Epsteina przebiegała etapami.

Najpierw zespół korzystał z aplikacji, która pokazywała ujawnione maile Epsteina w formie przypominającej skrzynkę Gmaila. Brakowało w niej jednak powiązań z oryginalnymi dokumentami Departamentu Sprawiedliwości USA.

Potem przyszły ogromne paczki danych pobierane przez torrenty. Tu pojawił się problem: według Macieja jeden ze zbiorów był celowo zmodyfikowany, ktoś zmienił część ujawnionych maili.

Dlatego Dżed sięgnął bezpośrednio do źródła, czyli do stron Departamentu Sprawiedliwości. Według Macieja agent sam poradził sobie z zabezpieczeniami przed botami. Urzędowa wyszukiwarka okazała się prymitywna: przy szukaniu po imieniu i nazwisku zwracała tysiące przypadkowych wyników. Dżed zbudował więc własny indeks, który pozwalał łączyć warunki wyszukiwania.

Polskie rejestry w kieszeni dziennikarza

Potem Dżed zajął się sprawami krajowymi. Zespół podłączył go do otwartych polskich rejestrów, między innymi:

Jak powiedział Maciej, każdy, kto kiedyś integrował systemy publiczne, wie, jaka to siła w rękach reportera.

Dżed potrafi też uruchamiać doraźne klasyfikatory pod konkretne zadanie, pracować w krótkich, intensywnych pętlach, odczytywać zamazane dokumenty urzędowe z krzywo przybitymi pieczątkami i przygotowywać wizualizacje. Ma też wbudowane metody pracy śledczej, takie jak biały wywiad (OSINT).

Piramida: co oddać AI, a czego nie ruszać

Zanim zaczął budować, Maciej przejrzał literaturę, między innymi model Huang i Rusta oraz badania Microsoftu. Pracę ułożył w piramidę:

Jego złota zasada:

„Używaj AI tam, gdzie umiesz wykonać pracę ręcznie, ale problemem jest automatyzacja albo skala”.

Kto za co odpowiada

Maciej podzielił odpowiedzialność na trzy role:

„Odpowiedzialność prawna i etyczna nigdy nie przechodzi na agenta”.

Jeśli coś pójdzie nie tak w śledztwie, odpowiada dziennikarz. Jeśli zawiedzie technologia, odpowiada Maciej.

Szeroko czy głęboko?

Zespół sprawdził trzy sposoby wprowadzania agenta:

  1. Szeroko i płytko: krótkie szkolenie dla wielu osób. Nie zadziałało. Wsparcie kosztowało dużo, a ludzie nie umieli wykorzystać możliwości narzędzia.
  2. Wąsko i głęboko: jeden zespół, jedna sprawa. Architekt buduje narzędzia, reporterzy prowadzą śledztwo. To podejście Maciej poleca.
  3. Wąsko i głęboko, z architektem w śledztwie: inżynier sam szuka tropów. Lepiej poznaje dziedzinę, ale, jak przyznał Maciej, inżynier jest fatalnym reporterem śledczym i brakuje mu czasu na architekturę.

Wartości newsroomu przed pierwszym kontaktem

Zanim jakikolwiek dziennikarz skorzystał z Dżeda, zespół wbudował w niego zasady pracy redakcji:

Efekt? Dziennikarze mu zaufali i nie mieli poczucia, że rozmawiają z kolejnym zwykłym czatem.

Poduszka czy kowadło

Maciej porównał dwa rodzaje umiejętności agenta. Twarde, czyli kod, są powtarzalne, wydajne i tanie. Miękkie, czyli prompty, są elastyczne i bardziej inteligentne, ale mniej przewidywalne, droższe i wolniejsze.

Co jest lepsze, poduszka czy kowadło? Zależy do czego.

W Dżedzie działa to jak w systemie Unix: proste skrypty łączy się w potoki, a model językowy wywołuje się tylko tam, gdzie naprawdę trzeba coś elastycznie zinterpretować.

Trzy zagrożenia

  1. Eksplozja kosztów. Agent, który się zapętli, potrafi przepalić budżet w kilka godzin.
  2. Katastrofalna niekompetencja, czyli ryzyko, że agent nadpisze albo skasuje dane ze śledztwa. Dlatego agent może dane tylko dopisywać, a niczego nie może usunąć.
  3. Wrogie przejęcie. Przy pracy na materiałach śledczych największy strach budzą ukryte instrukcje, na przykład w plikach PDF z internetu (prompt injection).

Dlatego Dżed działa na osobnym, całkowicie odizolowanym serwerze, bez dostępu do sieci firmowej TVN-u.

Ile to kosztuje

Maciej podał konkretne liczby:

Na co dzień zespół korzysta z tańszych modeli, a po najmocniejsze sięga tylko przy trudnych zadaniach. Jak mówi Maciej, tańsze modele z odpowiednimi technikami potrafią zdziałać cuda.

Co zaskoczyło

Pytania z sali

Ręcznie pisany kod będzie wkrótce rzadkością, „kodem kraftowym”, którym będziemy się chwalić jak rękodziełem. Najważniejsze jest zrozumienie dziedziny i zabezpieczenie granic ryzyka

Andrzej Sobczak zapytał w jakiej technologii powstał Dżed, jak duży był zespół i ile to trwało, bo to rozwiązanie jednocześnie przeraża i zachwyca. Maciej odpowiedział, że Dżed działa na silniku agentowym Nanobot, napisanym w Pythonie. Resztę opisałem na początku: trzy tygodnie i jedna osoba.

Czy korzystał z AI przy budowie? To najlepsza część całej historii: Dżed tworzył Dżeda. Maciej używał go jako agenta kodującego do rozbudowy jego własnych narzędzi.

Jaki jest interfejs? Zwykłe komunikatory, czyli to, co dziennikarz ma w telefonie, plus tablica zadań w GitHubie.

Jakie modele działają pod spodem? Domyślnie nie najdroższe, żeby uniknąć eksplozji kosztów. Firma ma umowę z OpenAI i korzysta z modeli średniej klasy oraz z tańszych modeli wspieranych technikami optymalizacji. Najmocniejsze modele są używane tylko w wąskich zadaniach, które wymagają głębokiego rozumowania.

Rada dla analityków i architektów: co robić, kiedy biznes przyjdzie i powie „zbudujcie nam takiego agenta”? Trzeba wejść w sam środek biznesowych „plemion” i przestać myśleć, że kod jest najważniejszy. Kod stał się powszechnym towarem, tworzonym maszynowo. Ręcznie pisany kod będzie wkrótce rzadkością, „kodem kraftowym”, którym będziemy się chwalić jak rękodziełem. Najważniejsze jest zrozumienie dziedziny i zabezpieczenie granic ryzyka.

To ostatni, 15. z 15 artykułów o praktycznym wykorzystaniu AI w pracy (nie tylko) analityka i architekta, które były prezentowane podczas konferencji „Analityk & Architekt w erze AI”. Konferencja przyciągnęła ponad 4 tys. uczestników.

Wszystkie publikacje znajdziesz na profilu Liderzy AI oraz na stronie liderzy.ai/konferencja.

Organizatorzy: Andrzej Sobczak, Jan Maria Kowalski, MBA · analitykarchitekt.ai

Ten artykuł ukazał się także na LinkedIn Liderzy.AI.

Komentuj na LinkedIn
← Poprzedni artykułPo co agentom AI czarna skrzynka
Strona konferencji Analityk & Architekt w erze AI