# İçerik moderatörleri, AI sistemlerinin %80 hata oranı bildirdi.
Yapay zeka, içerik moderatörlerinin işini kolaylaştırmak yerine zorlaştırıyor. Şiddet ve kötülüğü güvenilir bir şekilde tanımlayamıyor, diyor Bloomberg, 13 profesyonel çevrimiçi içerik filtreleyicisine atıfta bulunarak.
TikTok'ta Kevin takma adıyla bilinen bir çalışan, bir yıldan fazla bir süre önce işinde bir AI programı kullanma görevi verildiğini açıkladı. Hata oranını yaklaşık %70 olarak değerlendirdi. Örneğin, yapay zeka videodaki araç göstergesinde düşük yakıt seviyesini bildirebilir, ancak saatin 200 km/s olduğunu analiz etmesi gerekir.
Kevin, karşılaşılan zorluklara rağmen, işverenlerin insanların yerini makinelerin almayı sürdüreceğini düşünüyor.
Profesyonel moderatörler, yapay zekanın zararlı içeriği kaliteli bir şekilde ayıklamayı öğrenmesinden daha hızlı uygulanmaya başlandığını onayladılar.
Uzmanlar, nefret, propaganda, çocukları istismar etme ve diğer çevrimiçi tehditlerin serbestçe yayılacağı, yapay zeka tarafından kontrol edilen bir internet ortamının ortaya çıkmasından endişe ediyor.
"Eğer güvenlik uzmanlarının sayısını azaltmak için yapay zeka entegrasyonu yoluna çıkılırsa, bu onun azalmasına yol açar. Canlı insanlara ihtiyaç var," dedi Kanada Çocuk Koruma Merkezi'nin teknoloji direktörü Lloyd Richardson.
İçerik moderatörlüğü duygusal travmalara neden oluyor ve yeterli sayıda insan istihdam etmek zor bir görev. Kullanıcılar yalnızca YouTube'a günde 20 milyondan fazla video yüklüyor. Şirketler yapay zekaya güveniyor, ancak bu sadece engel oluyor.
Bloomberg muhabirleriyle konuşan 13 moderatörden 12'si, yapay zeka entegrasyonundan sonra işlerinin zorlaştığını belirtti.
«Yapay zeka ipuçlarına güvenemeyiz. %80 oranında hata yapıyor. Onun önerilerine bile bakmıyoruz», — dedi 36 yaşındaki Kazakistan merkezli içerik moderasyon firmasında çalışan Janerke Kaidenova.
Kevin, gördüklerinin hepsi için elle aşırı hassas etiketler yerleştirerek hataları düzeltmekle zaman harcıyor. Bu iş, yalnızca yükü artırmakta ve daha acil görevlere harcanabilecek zamanı almakta.
O, titiz düzeltmelerinin aslında sistemi eğittiğine ve sonuçta sistemin onu yerinden edeceğine inanıyor, ancak yönetim bunu açıkça söylemiyor.
Hatırlatmak gerekirse, 2024 Mayıs'ında Reddit, redditorlara ve moderatörlere yeni AI tabanlı özellikler sunan OpenAI ile ortaklık kurduğunu duyurdu.
View Original
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
İçerik moderatörleri, AI sistemlerinin %80 hata yaptığını bildirdi.
Yapay zeka, içerik moderatörlerinin işini kolaylaştırmak yerine zorlaştırıyor. Şiddet ve kötülüğü güvenilir bir şekilde tanımlayamıyor, diyor Bloomberg, 13 profesyonel çevrimiçi içerik filtreleyicisine atıfta bulunarak.
TikTok'ta Kevin takma adıyla bilinen bir çalışan, bir yıldan fazla bir süre önce işinde bir AI programı kullanma görevi verildiğini açıkladı. Hata oranını yaklaşık %70 olarak değerlendirdi. Örneğin, yapay zeka videodaki araç göstergesinde düşük yakıt seviyesini bildirebilir, ancak saatin 200 km/s olduğunu analiz etmesi gerekir.
Kevin, karşılaşılan zorluklara rağmen, işverenlerin insanların yerini makinelerin almayı sürdüreceğini düşünüyor.
Profesyonel moderatörler, yapay zekanın zararlı içeriği kaliteli bir şekilde ayıklamayı öğrenmesinden daha hızlı uygulanmaya başlandığını onayladılar.
Uzmanlar, nefret, propaganda, çocukları istismar etme ve diğer çevrimiçi tehditlerin serbestçe yayılacağı, yapay zeka tarafından kontrol edilen bir internet ortamının ortaya çıkmasından endişe ediyor.
İçerik moderatörlüğü duygusal travmalara neden oluyor ve yeterli sayıda insan istihdam etmek zor bir görev. Kullanıcılar yalnızca YouTube'a günde 20 milyondan fazla video yüklüyor. Şirketler yapay zekaya güveniyor, ancak bu sadece engel oluyor.
Bloomberg muhabirleriyle konuşan 13 moderatörden 12'si, yapay zeka entegrasyonundan sonra işlerinin zorlaştığını belirtti.
Kevin, gördüklerinin hepsi için elle aşırı hassas etiketler yerleştirerek hataları düzeltmekle zaman harcıyor. Bu iş, yalnızca yükü artırmakta ve daha acil görevlere harcanabilecek zamanı almakta.
O, titiz düzeltmelerinin aslında sistemi eğittiğine ve sonuçta sistemin onu yerinden edeceğine inanıyor, ancak yönetim bunu açıkça söylemiyor.
Hatırlatmak gerekirse, 2024 Mayıs'ında Reddit, redditorlara ve moderatörlere yeni AI tabanlı özellikler sunan OpenAI ile ortaklık kurduğunu duyurdu.