界面新聞?dòng)浾?| 蔡星卓
界面新聞編輯 | 劉海川
根據(jù)非盈利雜志《+972》和希伯來(lái)語(yǔ)新聞網(wǎng)站Local Call2024年4月3日的消息，以色列軍隊(duì)正在使用一種名為“Lavender”（薰衣草）的人工智能輔助瞄準(zhǔn)系統(tǒng)，將成千上萬(wàn)的巴勒斯坦人隔離，并確定其為潛在的轟炸目標(biāo)。根據(jù)半島電視臺(tái)報(bào)道，這個(gè)數(shù)據(jù)庫(kù)“負(fù)責(zé)制定多達(dá)3.7萬(wàn)個(gè)目標(biāo)的殺戮名單”。不過(guò)，以色列國(guó)防軍（IDF）向媒體否認(rèn)了存在這樣一個(gè)“殺戮名單”，并將該項(xiàng)目描述為僅僅是一個(gè)用于交叉參考情報(bào)來(lái)源的數(shù)據(jù)庫(kù)。
報(bào)道稱，該AI工具由以色列軍方數(shù)據(jù)科學(xué)家“訓(xùn)練”，通過(guò)篩選大量監(jiān)控?cái)?shù)據(jù)和其他信息，生成暗殺目標(biāo)。《+972》和Local Call引用了六名匿名以色列情報(bào)官員提供的信息，他們都在戰(zhàn)爭(zhēng)期間服役，并“直接參與”使用人工智能來(lái)選擇要消滅的目標(biāo)。
根據(jù)《+972》的描述，以色列軍隊(duì)在目標(biāo)在家時(shí)有系統(tǒng)地攻擊他們，通常選擇目標(biāo)全家都在家中的夜間，而不是在軍事活動(dòng)期間。據(jù)消息人士說(shuō)，這是因?yàn)樗麄冋J(rèn)為從情報(bào)的角度來(lái)看，在私人住宅中更容易找到這些人。因此還存在一個(gè)額外的自動(dòng)化系統(tǒng)（包括一個(gè)名為“Where’s Daddy？”的系統(tǒng)），專門用于跟蹤目標(biāo)個(gè)人，并在他們進(jìn)入家庭住宅時(shí)實(shí)施爆炸。
與此同時(shí)，一名消息人士表示，雖然有人工人員參與到此人工智能系統(tǒng)之中，但他們通常只是為機(jī)器的決定“充當(dāng)橡皮圖章”——通常情況下，他們?cè)谑跈?quán)轟炸前只會(huì)對(duì)每個(gè)目標(biāo)投入“大約20秒”的時(shí)間，僅僅為了確保被“Lavender”標(biāo)記的目標(biāo)是男性。而一位不愿透露姓名的以色列情報(bào)官員對(duì)媒體說(shuō)，“Lavender”的錯(cuò)誤率約為10%。
有以色列出版物分析說(shuō)，這種方法可能會(huì)導(dǎo)致加沙大量平民死亡。與此同時(shí)，媒體援引消息人士的話說(shuō)，以色列軍隊(duì)在本次沖突的頭幾周就做出了決定，并且，“對(duì)于Lavender標(biāo)記的每一個(gè)初級(jí)哈馬斯特工，都允許殺死多達(dá)15或20名平民”。此消息人士還透露，如果哈馬斯高級(jí)官員是目標(biāo)，那么“軍隊(duì)在幾次被授權(quán)暗殺一名指揮官時(shí)，殺死了超過(guò)100名平民”。
有觀點(diǎn)認(rèn)為，以色列對(duì)于“Lavender”的使用可能有助于解釋其對(duì)加沙地帶造成的大規(guī)模破壞，以及高傷亡人數(shù)。半島電視臺(tái)4月7日稱，加沙衛(wèi)生部表示，自2023年10月7日沖突開(kāi)始以來(lái)，至少有33137名巴勒斯坦人在加沙被以色列軍隊(duì)殺害。在遇難者中，兒童和婦女占絕大多數(shù)，已有超過(guò)13800名兒童被殺害。另外，還有數(shù)千人在倒塌的建筑物和基礎(chǔ)設(shè)施的廢墟下失蹤，據(jù)推測(cè)已經(jīng)死亡。
以色列在對(duì)哈馬斯的戰(zhàn)爭(zhēng)中使用的人工智能系統(tǒng)，引發(fā)了一系列法律和道德問(wèn)題，并改變了軍事人員與機(jī)器之間的關(guān)系。《衛(wèi)報(bào)》稱，一名使用過(guò)“Lavender”的情報(bào)官員認(rèn)為“機(jī)器冷冰冰地做了這件事，這讓事情變得容易了?！甭?lián)合國(guó)人權(quán)和反恐問(wèn)題特別報(bào)告員Ben Saul表示，如果相關(guān)細(xì)節(jié)被證實(shí)屬實(shí)，那么“因?yàn)榘l(fā)動(dòng)了不成比例的襲擊，以色列在加沙的許多襲擊將構(gòu)成戰(zhàn)爭(zhēng)罪”。
悉尼新南威爾士大學(xué)的人工智能專家Toby Walsh教授表示，法律學(xué)者們可能會(huì)認(rèn)為，使用人工智能瞄準(zhǔn)目標(biāo)違反了國(guó)際人道主義法。他在接受半島電視臺(tái)的采訪時(shí)表示，從技術(shù)角度來(lái)看，以色列軍方的行為表明，那些人工智能系統(tǒng)可怕而悲慘地?cái)U(kuò)大了戰(zhàn)爭(zhēng)規(guī)模，但讓人類參與其中、進(jìn)行有意義的監(jiān)督是“多么困難”。
卡塔爾的哈馬德·本·哈利法大學(xué)中東研究副教授Marc Owen Jones在接受采訪時(shí)稱，以色列軍隊(duì)正在“部署未經(jīng)測(cè)試的人工智能系統(tǒng)……以幫助做出有關(guān)平民生死的決定”。他補(bǔ)充說(shuō)，在未來(lái)，人們需要呼吁暫停在戰(zhàn)爭(zhēng)中使用人工智能。