ABD’nin Maryland eyaletine bağlı Baltimore County’de bir liseli öğrenci, yapay zekâ destekli güvenlik sistemi tarafından yanlışlıkla “silah taşıyor” şeklinde algılanınca ters kelepçelenip arandı.

Kenwood Lisesi öğrencisi Taki Allen, yaşadığı olayı basına şöyle anlattı:

“Sadece Doritos cipsi tutuyordum. İki elimle tutarken bir parmağım dışarıdaydı. Görüntüde bu, silah gibi görünmüş. Sonra diz çökmemi, ellerimi arkamda birleştirmemi söylediler ve beni kelepçelediler.”

Okul müdürü Katie Smith, velilere gönderdiği bilgilendirme notunda, güvenlik biriminin yapay zekâ sisteminden gelen “silah tespiti” uyarısını incelediğini ve yanlış alarm olduğunu tespit ettiğini belirtti. Ancak Smith, uyarının iptal edildiğinden hemen haberdar olmadığı için olayı okul polis memuruna bildirdi; memur da yerel polisle iletişime geçti.

Yapay zekâ destekli silah tespit sistemini işleten Omnilert şirketi, yaptığı açıklamada olaydan üzüntü duyduklarını belirterek “Bu olayın yaşanmasından dolayı üzgünüz ve öğrenciden ve toplumdan özür dileriz.” ifadelerini kullandı.

Ancak şirket, sistemin tasarlandığı şekilde çalıştığını da vurguladı.

Olay, okullarda kullanılan yapay zekâ tabanlı güvenlik sistemlerinin güvenilirliği ve öğrenciler üzerindeki psikolojik etkileri konusunda yeni tartışmalar başlattı. (İLKHA)