“Tehlikeli derecede hatalı” bilgiler veren yapay zeka sohbet robotu

0

BEĞENDİM

ABONE OL

News

0

The Markup’ın haberine nazaran, New York City hükümeti tarafından işletme sahiplerinin ilgili yasal bilgilere erişmesine yardımcı olmak emeliyle piyasaya sürülen bir AI sohbet robotu palavra söylüyor ve hatta birtakım durumlarda kullanıcılara maddelere muhalif hareketler konusunda yanlış bilgiler veriyor.

Yerel kar maksadı gütmeyen haber merkezleri Documented ve The City ile birlikte yayınlanan haberde, sohbet robotunun konut siyasetleri, emekçi hakları ve öbür bahislerle ilgili sorulara verdiği cevaplardaki çok sayıda yanlışlık bulunuyor.

New York City Belediye Başkanı Adams’ın yönetimi, Mart 2023’te “şehir hizmetleri ve avantajları için tek adres” olarak başlatılan MyCity portalına ek olarak Ekim ayında sohbet robotunu kullanıma sundu. Microsoft’un Azure AI’si tarafından desteklenen sohbet robotu, mevcut ve gelecek vaat eden işletme sahiplerini amaç alıyor ve direkt kent idaresinin sitelerinden gelen “işlem yapılabilir ve emniyetli bilgi” kaynağı olarak tanıtılıyor.

Ancak kentin belirttiği üzere bu yalnızca bir pilot program ve üzerinde çalışmalar devam ediyor. Web sitesinde yer alan sorumluluk reddi beyanında da “bazen yanlış, ziyanlı yahut önyargılı içerik üretilebileceği” vurgulanıyor.

Yine de, The Markup’ın söylediğine ve verdiği örneklere nazaran, yapılan testlerde beklenebileceğinden çok daha fazla yanlış bilgi var. Hatta, The Markup ile görüşen bir konut siyaseti uzmanı, sohbet robotunun en berbat ihtimalle “tehlikeli derecede hatalı” olduğunu söyledi.