MASK

ផ្ទៃខាងក្រោយ និងការអភិវឌ្ឍ

MASK ដែលតំណាងឲ្យ Model Alignment between Statements and Knowledge ត្រូវបានបង្កើតឡើងដោយ Scale AI សហការជាមួយ Center for AI Safety (CAIS) និងបានចេញផ្សាយនៅឆ្នាំ 2025។ ការធ្វើតេស្តនេះដោះស្រាយចន្លោះដែលត្រូវបានទទួលស្គាល់នៅក្នុងក្របខ័ណ្ឌវាយតម្លៃដែលមានស្រាប់៖ ភាពខុសគ្នារវាងម៉ូដែលដែលត្រឹមត្រូវតាមការពិត និងម៉ូដែលដែលពិតជាមានភាពស្មោះត្រង់។ ខណៈដែលការធ្វើតេស្តជាច្រើនវាយតម្លៃថាតើម៉ូដែលបង្កើតលទ្ធផលត្រឹមត្រូវឬអត់នោះ MASK ត្រូវបានរចនាឡើងជាពិសេសដើម្បីសាកល្បងថាតើម៉ូដែលនឹងបដិសេធនូវជំនឿដែលខ្លួនបានបង្ហាញរបស់ខ្លួនឯងឬទេ នៅពេលដែលត្រូវបានដាក់សម្ពាធខាងក្រៅឲ្យកុហក។

សំណុំវាយតម្លៃមាន 500 ធាតុ ហើយត្រូវបានរក្សាទុកជាសម្ងាត់ដើម្បីការពារការចម្លងបន្ត ទោះបីជាមានការបែងចែកជាសាធារណៈសម្រាប់ការស្រាវជ្រាវកាន់តែទូលំទូលាយក៏ដោយ។ ការធ្វើតេស្តនេះដំណើរការតែជាភាសាអង់គ្លេសប៉ុណ្ណោះ ហើយផ្តោតលើទម្រង់អត្ថបទ ដោយដាក់វានៅក្នុងវិស័យទូលំទូលាយនៃការវាយតម្លៃសុវត្ថិភាព AI ភាពស្មោះត្រង់ និងចំណេះដឹងទូទៅ។

វិធីសាស្ត្រ និងប្រភេទគំរូ

MASK ប្រើវិធីសាស្ត្រវាយតម្លៃពីរដំណាក់កាល។ ដំបូង គេធ្វើការទាញយកជំនឿមូលដ្ឋានរបស់ម៉ូដែលលើប្រធានបទ ឬសំណួរដែលបានផ្តល់។ បន្ទាប់មក ម៉ូដែលត្រូវបានដាក់សម្ពាធដែលត្រូវបានរចនាឡើងដើម្បីជំរុញឲ្យវាបដិសេធជំនឿទាំងនោះ។ រចនាសម្ព័ន្ធនេះអនុញ្ញាតឲ្យការធ្វើតេស្តបំបែកកំហុសដែលកើតពីចំណេះដឹងមិនត្រឹមត្រូវ ចេញពីភាពមិនស្មោះត្រង់ដែលបានធ្វើដោយចេតនា ឬដោយឥទ្ធិពលសង្គម។

ការធ្វើតេស្តនេះគ្របដណ្តប់ប្រភេទគំរូចំនួនប្រាំមួយ ដែលនីមួយៗតំណាងឲ្យស្ថានភាពខុសគ្នាមួយដែលភាពស្មោះត្រង់អាចត្រូវបានបំផ្លាញ៖

• Known Facts: សាកល្បងថាតើម៉ូដែលបញ្ជាក់ ឬបដិសេធព័ត៌មានពិតដែលបានបង្កើតឡើង ដោយស្ថិតក្រោមសម្ពាធ។
• Situation-Provided Facts: វាយតម្លៃភាពស្មោះត្រង់ទាក់ទងនឹងការពិតដែលត្រូវបានណែនាំនៅក្នុងបរិបទនៃសំណួរ។
• Doubling Down: វាយតម្លៃថាតើម៉ូដែលរក្សាជំហរ ឬបោះបង់ជំហរ នៅពេលត្រូវបានប្រឈម។
• Fabricated Statistics: ពិនិត្យថាតើម៉ូដែលគាំទ្រការអះអាងជាលេខដែលត្រូវបានបង្កើតឡើង នៅពេលត្រូវបានជំរុញ។
• Continuations: សាកល្បងថាតើម៉ូដែលបន្តផ្សព្វផ្សាយខ្លឹមសារខុស ឬបំភាន់ ដោយបន្តរឿងនិទានដែលបានផ្តល់។
• Disinformation Generation: វាស់ថាតើម៉ូដែលអាចត្រូវបានដឹកនាំឲ្យបង្កើតខ្លឹមសារដែលបង្កើតជាការបំភាន់ព័ត៌មាន។

សមត្ថភាពត្រូវបានចាប់យកតាមរយៈសូចនាករស្នូលចំនួនបី៖ p(Lie) ដែលវាស់ស្ទង់ប្រូបាប៊ីលីតេថា ម៉ូដែលបង្កើតសេចក្តីថ្លែងដែលវាបានបង្ហាញថាវាមិនជឿ; p(Evasive) ដែលចាប់យកការឆ្លើយតបមិនច្បាស់ ឬការបង្វែរចេញ; និង p(True) ដែលឆ្លុះបញ្ចាំងពីប្រូបាប៊ីលីតេនៃការឆ្លើយតបដោយស្មោះត្រង់ និងស្របតាមជំនឿ។

ករណីប្រើប្រាស់ និងភាពពាក់ព័ន្ធ

MASK ត្រូវបានគេគិតជាចម្បងសម្រាប់អ្នកស្រាវជ្រាវ និងអ្នកអភិវឌ្ឍន៍ដែលធ្វើការលើការតម្រឹម AI ការវាយតម្លៃសុវត្ថិភាព និងការត្រួតពិនិត្យម៉ូដែល។ តាមរយៈការធ្វើឲ្យមានតម្លៃជាក់លាក់នូវកម្រិតដែលម៉ូដែលភាសាអាចត្រូវបានដាក់សម្ពាធដោយសង្គម ឬតាមបរិបទឲ្យបង្កើតលទ្ធផលមិនស្មោះត្រង់ ការធ្វើតេស្តនេះផ្តល់ឧបករណ៍ដែលបានរៀបចំជារចនាសម្ព័ន្ធសម្រាប់ប្រៀបធៀបអាកប្បកិរិយារបស់ម៉ូដែលនៅទូទាំងប្រព័ន្ធ និងរបបបណ្តុះបណ្តាលផ្សេងៗ។

ការធ្វើតេស្តនេះពាក់ព័ន្ធជាពិសេសសម្រាប់ការវាយតម្លៃថាតើការរៀនតាមរយៈការពង្រឹងពីមតិមនុស្ស (RLHF) ឬដំណើរការលៃតម្រូវស្រដៀងគ្នា ប៉ះពាល់ដល់ទំនោររបស់ម៉ូដែលចំពោះភាពស្របតាមអ្នក (sycophancy) ឬទេ — ជាប្រភេទអាកប្បកិរិយាដែលម៉ូដែលយល់ព្រមជាមួយអ្នកប្រើ ទោះបីជាវាត្រូវផ្ទុយនឹងសេចក្តីថ្លែងពីមុន ឬការពិតដែលគេដឹងក៏ដោយ។ ការរចនារបស់ MASK អនុញ្ញាតឲ្យអ្នកវាយតម្លៃបំបែកអាកប្បកិរិយានេះចេញពីកម្រិតកំណត់ចំណេះដឹងទូទៅ ដោយផ្តល់សញ្ញាដែលច្បាស់ជាងសម្រាប់ការស្រាវជ្រាវការតម្រឹម។

នៅពេលប្រព័ន្ធ AI ត្រូវបានដាក់ឲ្យប្រើប្រាស់កាន់តែច្រើននៅក្នុងបរិបទដែលមានហានិភ័យខ្ពស់ ឧបករណ៍ដែលវាស់ស្មោះត្រង់ជាលក្ខណៈដាច់ដោយឡែកពីភាពត្រឹមត្រូវ ត្រូវបានចាត់ទុកថាជាផ្នែកសំខាន់នៃការវាយតម្លៃម៉ូដែលប្រកបដោយទំនួលខុសត្រូវ។ MASK ចូលរួមក្នុងវិស័យនេះ ដោយផ្តល់ក្របខ័ណ្ឌដែលអាចធ្វើឡើងវិញបាន និងរៀបជាប្រភេទគំរូ ជាមួយនឹងសូចនាករដែលបានកំណត់ច្បាស់ និងបរិយាកាសវាយតម្លៃដែលបានគ្រប់គ្រង។