„Gdzie jest tatuś?” 24 żołnierzy IDF opisuje zabijanie z pomocą AI

77-minutowy dokument wyreżyserowali Izraelczycy Yuval Abraham i Rachel Szor, współtwórcy nagrodzonego Oscarem „No Other Land”. Film wyprodukował brytyjski dziennik „The Guardian”. Premiera odbyła się 10 września na festiwalu w Wenecji, gdzie „NAZA” jako jedyny dokument startowała w konkursie głównym i zdobyła Nagrodę Specjalną Jury. Od tego czasu to jeden z najszerzej komentowanych dokumentów roku, a w Izraelu przede wszystkim oskarżenie, na które odpowiadają rząd i armia.

Oficjalny zwiastun filmu udostępnił jego międzynarodowy dystrybutor, mk2 Films:

▶

24 świadków

Film składa się z wypowiedzi 24 osób z izraelskiej armii i wywiadu. Wszyscy występują anonimowo: siedzą w ciemności, a ich twarze i głosy zostały cyfrowo zmienione. Nocne ujęcia z dachów Tel Awiwu nakręciła głównie Szor. Tytuł pochodzi od wojskowego skrótu wyrażenia „nezek agavi”, oznaczającego szkody uboczne. Według rozmówców każdy cel miał przypisaną wartość NAZA – szacowaną liczbę cywilów, których śmierć uznawano za dopuszczalną przy jednym ataku.

Z relacji przytaczanych w recenzjach NPR i KQED wynika, że ataki na cele o wartości NAZA poniżej 20 nie wymagały specjalnej zgody, a przy jednym ważnym celu zatwierdzono wartość 500 – tylu mieszkańców liczy małe izraelskie miasteczko. Jeden z żołnierzy mówi: „NAZA nie była problemem, po prostu likwidowaliśmy cele”.

Jak działało „Gdzie jest tatuś?”

Nazwa „Where's Daddy?” pojawiła się publicznie w kwietniu 2024 roku. Śledztwo izraelskiego serwisu +972 Magazine i portalu Local Call, którego autorem był również Abraham, opisywało dwa powiązane systemy. Pierwszy, Lavender, opierał się na danych z inwigilacji, przede wszystkim z telefonów. Na podstawie wzorców połączeń i przemieszczania się przypisywał mieszkańcom Gazy ocenę prawdopodobieństwa, że należą do zbrojnego skrzydła Hamasu lub Palestyńskiego Islamskiego Dżihadu. Według sześciu anonimowych oficerów wywiadu w szczycie wojny system wygenerował w ten sposób listę ok. 37 tys. potencjalnych celów, głównie bojowników niskiego szczebla. Drugi, „Gdzie jest tatuś?”, śledził oznaczone osoby i wysyłał alert, gdy cel wchodził do domu rodzinnego. Dom oznaczano wtedy jako cel nalotu.

Źródła +972 mówiły o błędzie rzędu 10 proc. Oficerowie zatwierdzali cel w ok. 20 sekund – sprawdzali głównie, czy wskazana osoba jest mężczyzną, bez dogłębnej weryfikacji surowych danych, na podstawie których system ją wytypował. W filmie jeden z rozmówców mówi o marginesie błędu 15 proc. Obie liczby pochodzą od anonimowych źródeł i mogą dotyczyć różnych etapów wojny. Nie da się ich niezależnie zweryfikować.

„NAZA” dodaje do tego obrazu nowy element. Rozmówcy twierdzą, że wojsko mogło włamać się do telefonu praktycznie każdego mieszkańca Gazy, także dziecka, i korzystać z jego kamery i mikrofonu. Słowa dziecka – wiadomość albo rozmowa, z której wynikało, że ojciec jest w domu – miały potwierdzać obecność celu. Jeden z żołnierzy nazywa cały system „fabryką celów”, inny wspomina słowa przełożonego: „Musisz ufać systemowi, inaczej wszystko się rozsypie”.

Według źródeł z 2024 roku cele atakowano w domach, bo z punktu widzenia wywiadu było to łatwiejsze. Ci sami rozmówcy przyznawali, że między alertem a uderzeniem mijało czasem tyle czasu, że celu w budynku już nie było. „Wiele razy zdarzyło mi się, że zaatakowaliśmy dom, a tej osoby nawet w nim nie było” – tak jednego z oficerów cytował serwis +972.

Armia: Lavender to baza danych, decyduje człowiek

Siły Obronne Izraela (IDF) odpowiedziały na film 1 października dziesięciostronicowym dokumentem. Przedstawiciel armii obejrzał film na pokazie w Bolonii. Według IDF narracja „NAZA” opiera się na „poważnych błędach faktycznych, wynikających z fałszywego i manipulacyjnego przedstawienia rzeczywistości”.

Najważniejsze punkty odpowiedzi armii:

• Lavender to według IDF „baza danych służąca do zestawiania informacji wywiadowczych o członkach organizacji zbrojnych”. Wpis w bazie nie czyni nikogo celem.
• „Sztuczna inteligencja nie decyduje, czy obiekt lub osoba zostanie uznana za cel” – według armii decyzje podejmują analitycy i dowódcy.
• Armia twierdzi, że nigdy nie planowała, nie zatwierdziła ani nie przeprowadziła ataku, w którym spodziewano się 500 ofiar cywilnych. Zaprzecza też istnieniu progu 200 ofiar. Rzeczywiste limity miały być „znacznie niższe”, ale armia ich nie podaje.
• Według armii informacja o obecności dzieci w budynku prowadziła do odwołania, przesunięcia albo zmiany planu ataku.
• Zeznania żołnierzy dotyczą według armii „wczesnych, ograniczonych etapów” wyznaczania celów i „nie mogą być traktowane jako pełny obraz”. Armia zarzuca twórcom, że nie podali dat ani miejsc ataków i przed premierą nie przedstawili jej konkretnych zarzutów.

Już w 2024 roku, po publikacji +972, armia zaprzeczała istnieniu „listy do zabicia” i nazywała systemy narzędziami pomocniczymi dla oficerów.

Dziennik „The Guardian” odpowiedział, że „w pełni stoi za filmem”. Redakcja powołuje się na trzy lata pracy i rozmowy z ponad 100 źródłami, a także odrzuca twierdzenie armii, że rozmówcy byli niskiego szczebla.

Rząd chce odebrać reżyserom obywatelstwo

Najostrzej zareagowali politycy. Minister kultury Miki Zohar zapowiedział, że „natychmiast podejmie działania”, by odebrać reżyserom izraelskie obywatelstwo, i zarzucił im zdradę. Minister bezpieczeństwa narodowego Itamar Ben-Gwir nazwał ich „hańbą” i wezwał do wyjazdu z kraju. Premier Benjamin Netanjahu zapowiedział w połowie września dwie ustawy: o odbieraniu obywatelstwa osobom zniesławiającym żołnierzy oraz o dwudziestokrotnym podniesieniu odszkodowań za zniesławienie. Agencja Reuters przypomniała, że izraelski Sąd Najwyższy w 2022 roku utrzymał przepis pozwalający odebrać obywatelstwo za „naruszenie lojalności” wobec państwa. Do początku października żadna z nowych ustaw nie została uchwalona.

Przed domem rodziców Rachel Szor protestowali przeciwnicy filmu. W październiku pojawił się też polemiczny dokument „NAZA: The Real Story”.

Film w kinach

W Wenecji widzowie oklaskiwali film przez ok. 25 minut – według relacji była to najdłuższa owacja w historii festiwalu. „NAZA” ma zapewnioną dystrybucję kinową w 56 krajach. W Wielkiej Brytanii wchodzi do kin 16 października, a pod koniec listopada „The Guardian” udostępni ją bezpłatnie w internecie. Wszystkie 44 recenzje zebrane przez serwis Rotten Tomatoes są pozytywne. Do 7 października film zarobił w kinach ok. 3,7 mln dol., z czego ok. 3,4 mln dol. we Włoszech.

Film podaje, że od 7 października 2023 roku w Gazie zginęło ponad 73 tys. Palestyńczyków – to dane władz zdrowotnych Gazy, kontrolowanych przez Hamas. W ataku Hamasu na Izrael 7 października 2023 roku zginęło ok. 1200 osób, a 251 uprowadzono.

Krytycy filmu, w tym zwolennicy Izraela cytowani przez NPR, podważają wiarygodność anonimowych zeznań. Recenzja w „Foreign Policy” (Sharon Weinberger, „Bulletin of the Atomic Scientists”) zwraca uwagę na co innego: nic nie wskazuje, by sztuczna inteligencja wybierała cele trafniej niż ludzie albo lepiej chroniła cywilów. Pozwala wybierać je szybciej i nadaje decyzjom pozór technicznej neutralności – a odpowiedzialność i tak zostaje przy ludziach.

Źródła: +972 Magazine – „Lavender”: The AI machine directing Israel's bombing spree in Gaza (3.04.2024), NPR – NAZA review, KQED – Cloaked in Anonymity, Israeli Soldiers Describe Mass Civilian Killings in „NAZA”, The Globe and Mail – NAZA review, JTA – IDF claims „fundamental errors”, Foreign Policy – NAZA and AI in war, Euronews – NAZA wows Venice, The National / Reuters – Netanyahu seeks law revoking citizenship