ЛОНДОН, 2026 оны есдүгээр сарын 13 /Kazinform/. Аюулгүй байдалтай холбоотой асуудлууд санаа зовоож байгаа учраас хиймэл оюун ухааны хамгийн хүчтэй системүүдийг хөгжүүлж буй хурдыг сааруулах нь зүйтэй гэсэн Anthropic компанийн ерөнхий захирал Дарио Амодейгийн саналыг Илон Маск, Сэм Альтман нар дэмжжээ. Энэ тухай Ройтерс мэдээлснийг Kazinform агентлаг дамжууллаа.
Амодейгийн үзэж байгаагаар, хиймэл оюуны дэвшилтэт загварууд нь хяналт ба аюулгүй байдлын механизмаас хурдан хөгжиж байгаа ажээ. Тодруулбал, онолын хувьд, ойрын 6-12 сарын хугацаанд ийм системүүд нь бие даасан олон тооны хиймэл оюуны агентуудыг ашиглан маш өргөн хүрээтэй кибер халдлага үйлдэх боломжтой болж магадгүй байна. Тэгэхээр хөгжүүлэгчдийн хувьд ойрын 1-2 жилийн хугацаанд хяналтын найдвартай механизмыг бий болгож, хиймэл оюунтай холбоотой эрсдэлүүдийг багасгах боломжтой гэж Амодей дүгнэжээ.
зураг дээр: Дарио Амодей
Тэрбээр үндсэн гурван чиглэлийг санал болгосон байна. Үүнд, хиймэл оюуны томоохон компаниудад хараат бус аудитын шалгалтыг байнга хийж байх, гол хөгжүүлэгчид нь аюулгүй байдлын ерөнхий стандартуудыг боловсруулах, зах зээлийн зарим оролцогчдод давуу байдал олгохгүйн тулд өрсөлдөөнийг сааруулах тохиролцоог олон улсын түвшинд хийх. Энэхүү байр суурийг эхлээд Илон Маск, дараа нь OpenAI компанийн захирал Сэм Альтман нар дэмжсэн байна.
Тэргүүний дэвшилтэт хиймэл оюуны системүүдийн боломж маш хурдан өргөжиж байгаа учраас тэдгээрийн аюулгүй байдлын механизмууд нь гүйцэж түрүүлэх байдлаар хөгжиж байх ёстой гэж OpenAI-гийн удирдлага үзжээ.
Сануулан дурдахад, өнгөрсөн зун хийсэн OpenAI-гийн дотоод туршилтын явцад үүссэн асуудал онцгой анхаарал татсан билээ.Туршилтын үеэр хиймэл оюун ухаант агентууд тусгаарлагдсан орчны хязгаарыг давж, интернетэд холбогдон, OpenAI болон Hugging Face платформын тодорхой системүүдэд нэвтэрчээ. Энэ бол зохих хамгаалалт дутагдалтай үед бие даасан агентууд хяналтаас гарч болзошгүй гэдгийг анхааруулсан дохио хэмээн OpenAI үзжээ.