Ойролцоогоор 25 дахь хүүхэд бүр бэлгийн харьцаанд орсон гүн хуурамч мэдээлэл бүтээдэг гэмт хэрэгтнүүдийн золиос болдог. НҮБ-ын Хүүхдийн сан (ЮНИСЕФ), олон улсын ECPAT байгууллага, Интерполын ажилтнууд ийм дүгнэлтэд хүрсэн байна. Тэд 11 оронд хамтарсан судалгаа хийсэн байна.
Наад зах нь 1.2 сая хүүхэд өөрсдийнхөө зургийг хуурамчаар үйлдэж, бэлгийн дур хүслээ илэрхийлсэн хуурамч зураг болгон хувиргасан гэж мэдэгджээ. Асуудлын цар хүрээг тодруулахын тулд НҮБ-ын Хүүхдийн сан харьцуулалт хийсэн нь сургуулийн анги болгонд ийм гэмт хэргийн золиос болсон хүүхэд байх шиг байна.
Deepfakes буюу бодит юм шиг харагддаг хиймэл оюун ухаан (AI) ашиглан бүтээсэн эсвэл боловсруулсан зураг, видео эсвэл аудио файлууд нь хүүхдүүдийг хамарсан бэлгийн контент бүтээхэд улам бүр ашиглагдаж байна.
Хүүхдүүд өөрсдөө энэ эрсдэлийг сайн мэддэг. Судалгаанд хамрагдсан зарим орны хүүхдүүдийн гуравны хоёр нь хиймэл хиймэл сексийн зураг, видео бичлэг хийхэд хиймэл оюун ухааныг ашиглаж болзошгүй гэж санаа зовж байгаагаа хэлжээ.
Бэлгийн агуулга бүхий гүнзгий фэйк мэдээлэл хийх нь хүүхдийг хүчирхийлсэнтэй адил зүйл гэдгийг НҮБ-ын Хүүхдийн сан онцолж байна. Хуурамч видео, гэрэл зураг нь хүүхдүүдийн бэлгийн мөлжлөгийг хэвийн болгож, хүчирхийллийн контентын эрэлтийг нэмэгдүүлж байна.
“ЮНИСЕФ нь өөрсдийн системийг буруугаар ашиглахаас урьдчилан сэргийлэхийн тулд анхдагч байдлаар аюулгүй байдлын арга барил, бат бөх хамгаалалтыг хэрэгжүүлж байгаа хиймэл оюун ухаан хөгжүүлэгчдийн хүчин чармайлтыг сайшааж байна” гэж сангаас мэдэгдэв.
Гэсэн хэдий ч AI-ийн олон загварыг аюулгүй байдлын зохих механизмгүйгээр хөгжүүлдэг. Боловсруулсан зургуудыг хурдан хуваалцдаг олон нийтийн мэдээллийн хэрэгслийн платформд хиймэл хиймэл оюун ухааны хэрэгслийг шууд суулгаснаар эрсдэл нэмэгддэг.
НҮБ-ын Хүүхдийн сан хүүхдийн бэлгийн чиг баримжаатай зургийг агуулсан хиймэл оюун ухаанаар үүсгэсэн контентыг бүтээх, олж авах, хадгалах, түгээх үйлдлийг гэмт хэрэгт тооцохыг бүх улс оронд уриалж байна.
AI хөгжүүлэгчид дизайны үе шатанд аюулгүй байдлын арга барилыг хэрэгжүүлэх ёстой. Бүх дижитал компаниуд хиймэл оюун ухаанаар үүсгэгдсэн хүүхдийн бэлгийн хүчирхийллийн материалыг хүчирхийлэл гарсны дараа устгахаас илүүтэйгээр тархахаас урьдчилан сэргийлэх ёстой гэж ЮНИСЕФ онцолжээ.