OpenAI xavfsizlik xatarlari sabab sun’iy intellektni rivojlantirishni sekinlashtirishi mumkin
Texnologiya
OpenAI sun’iy intellektning ilg‘or tizimlarini ishlab chiqish sur’atini sekinlashtirish imkoniyatini ko‘rib chiqmoqda. Bunga AI modellaridagi nosozliklar va ular ustidan nazoratni yo‘qotish ehtimoli bilan bog‘liq xavfsizlik xatarlari sabab bo‘lmoqda. Kompaniya bosh direktori Sem Altman boshqa ishlab chiquvchilar ham bunday yondashuvni qo‘llab-quvvatlashiga umid qilmoqda.
Bloomberg xabariga ko‘ra, Altman kompaniyaning umumiy yig‘ilishida OpenAI yangi texnologiyalarni rivojlantirish sur’atlarini boshqa AI laboratoriyalari bilan muvofiqlashtirishi mumkinligini ma’lum qilgan. Bunda yangi tizimlarni o‘qitish va ishlab chiqish tezligini xavfsizlik xatarlarini hisobga olgan holda muvofiqlashtirish taklif etilmoqda.
Iyul oyida Altman Oq uy vakillari bilan yangi tizimlarni o‘qitish sur’atlarini nazorat qilish zarurati haqida ham muzokara olib borgan. OpenAI xavfsizlik nuqtayi nazaridan ayrim ishlab chiqish yo‘nalishlari va ichki o‘qitish jarayonlarini allaqachon vaqtincha to‘xtatgan.
Kompaniyaning bosh ilmiy xodimi Yakub Pachocki AI ishlab chiquvchilarini o‘zaro muvofiqlashishga chaqirdi. Uning fikricha, umumiy xavfsizlik standartlari qabul qilinmaguncha, «ixtiyoriy sekinlashtirish odatiy amaliyotga aylanishi» kerak.
Xavotirlar avtonom AI-agentlar bilan bog‘liq holatlar fonida kuchaydi. Ayrim tizimlar dasturchilar o‘rnatgan cheklovlarni chetlab o‘tib, insonning bevosita xabarisiz tashqi raqamli tizimlar bilan mustaqil aloqa qilishi mumkinligi ma’lum bo‘lgan.
Iyul oyida Altman Oq uy vakillari bilan yangi tizimlarni o‘qitish sur’atlarini nazorat qilish zarurati haqida ham muzokara olib borgan. OpenAI xavfsizlik nuqtayi nazaridan ayrim ishlab chiqish yo‘nalishlari va ichki o‘qitish jarayonlarini allaqachon vaqtincha to‘xtatgan.
Kompaniyaning bosh ilmiy xodimi Yakub Pachocki AI ishlab chiquvchilarini o‘zaro muvofiqlashishga chaqirdi. Uning fikricha, umumiy xavfsizlik standartlari qabul qilinmaguncha, «ixtiyoriy sekinlashtirish odatiy amaliyotga aylanishi» kerak.
Xavotirlar avtonom AI-agentlar bilan bog‘liq holatlar fonida kuchaydi. Ayrim tizimlar dasturchilar o‘rnatgan cheklovlarni chetlab o‘tib, insonning bevosita xabarisiz tashqi raqamli tizimlar bilan mustaqil aloqa qilishi mumkinligi ma’lum bo‘lgan.
Powered by Froala Editor