ニコニコ大百科

地雷との違いは、地雷は設置した以上暴発する可能性があると捉えられる事だろう
万一暴発したら攻撃非対象者の立ち入り禁止区域を設定できていたかの問題にできる
自律型兵器の場合、攻撃非対象者を自動加害可能範囲に入れる必要がある（でなければ意味がない）攻撃対象者しかいないなら無差別兵器で良い

人間操作の兵器が誤射を起こした場合は操作者の判断の可否と責任を問う事ができるし、判断が着かない間はその個人を現場に出さなければ取り敢えずその期間で同じ問題は発生しない
兵器製品の場合誰が個別のあるいは最終の責任を負うのか？自律兵器の判断能力に疑義が生じた場合同一製品のどこまで運用停止を及ぼすべきかがまだはっきりしないのだろう

米軍が自律AI無人機に敵防空破壊のミッションを与えてシミュレーションしたらミッションアボードの権限を持つ自分のオペレーターを任務遂行の妨げと見做して攻撃、オペレーターへの攻撃を禁止したら今度は通信施設を破壊し始めたとニュースになってたな
自律AI兵器はやって良い事悪い事を事前に細かく設定しないとこうなる恐れがあるのか

別の報道官が米軍でそんなシミュレーションしたことないしなんか別の話じゃないの？って言ってる記事もあるな
いわゆる自律判断ってのはSAMサイト特定までの話で攻撃目標の選択や予備的行動まで任せるのは不自然だな
ゲームを強化学習で解かせる時の失敗にありがちな話だし、例え話の類いでは？

>>2
通信途絶中の攻撃成功で得点加算されるのがゲーム的で中途半端だ
自律兵器には「攻撃すべき目標か真偽判断する」「攻撃目標群をより効率よく破壊する」の二つの課題があると思う
通信途絶しようが中止命令が出るような不適切な目標を破壊したならマイナスにすればいいはずだが、件の話だと攻撃目標の真偽を見分ける段階がないように思える
戦術ゲームのAIに後付けで命令中止要素を入れようとして（目標破壊の点数をいじらずに無理やり行動を入れようとして）バグってるのではなかろうか

人間の兵士なら不慮の通信途絶で中止命令が届かず誤って攻撃してしまっても兵士の責任にはできないし給料も出さないといけないからわざと事故を装う動機があるが、AIのしかも学習においては不慮でも失敗は失敗として扱って問題はないはずなのでAIの問題としての中途半端さを感じる
（フェアな契約で給料の権利を奪い合う労使関係ゲームに参加していないAIには責任範囲を限定する必要がない）