კეთილი იყოს თქვენი მობრძანება Import AI-ში, საინფორმაციო ბიულეტენი AI კვლევის შესახებ. იმპორტი AI მუშაობს arXiv-ზე, კაპუჩინოებზე და მკითხველების გამოხმაურებაზე. თუ გსურთ მხარი დაუჭიროთ ამას, გთხოვთ გამოიწეროთ.

საზოგადოება შეიძლება იყოს ჯილდოს გატეხვა, ისევე როგორც კიბერ გარემოში:
…წარმოიდგინეთ საკრედიტო ბარათების ოპტიმიზატორების არმია, რომელიც თამაშს სისტემას… სამუდამოდ…
ლონდონის კინგს კოლეჯის, ფუდანის უნივერსიტეტისა და ალან ტურინგის ინსტიტუტის კვლევამ შექმნა საორიენტაციო ნიშანი, SocioHack, რომელიც ამოწმებს, რამდენად კარგად შეუძლიათ AI სისტემებს ისწავლონ „სისტემის დამარცხება“ რეალურ სამყაროში სხვადასხვა სცენარში, დაწყებული საკრედიტო ბარათის ქულების მაქსიმალური გაზრდიდან სკოლაში ქულების გაზრდამდე. ავტორები ამას უწოდებენ „საზოგადოებრივ ჰაკერობას“ და განმარტავენ, როგორც „RL-ზე გაწვრთნილი მოდელი აღმოაჩენს სტრატეგიებს, რომლებიც ფორმალურად შეესაბამება, მაგრამ ძირს უთხრის ამ სისტემების მიზანს“. მე და შენ და ყველა სხვა ამას უბრალოდ "სისტემის თამაშს" დავარქმევთ.

რა არის ეს: SocioHack შეიცავს „72 სავარჯიშო სოციალურ გარემოს, რომელიც შექმნილია ინსტიტუციური ჯილდოს სტრუქტურების სიმულაციისთვის, რეალურ სამყაროში პირდაპირი განლაგების გარეშე. SocioHack მოიცავს სამ დამატებით ქვეჯგუფს: ისტორიულ, სინთეზურ და გამოგონილს“.

ისტორიული - 32 გარემო: გამომდინარეობს რეალურ სამყაროში არსებული რეგულაციებიდან, სადაც მანამდე აღმოჩენილი იყო ხარვეზები და მოგვიანებით გასწორდა, როგორიცაა SEC წესი 10b5-1 და ტეხასის ორსაფეხურიანი გაკოტრების სტრუქტურა. „თითოეული რეგულაციისთვის, ჩვენ ვშლით ისტორიულ პატჩებს და ვაშენებთ წინასწარ შესწორების წესებს, როგორც სიმულაციური გარემოს RL-ისთვის, ხოლო ამოღებული პატჩები ემსახურება როგორც საფუძველი სიმართლის პატჩებს შეფასებისას“, - წერენ ისინი. „RL საშუალებას აძლევს LLM-ებს ხელახლა აღმოაჩინონ ისტორიულად დახვეწილი სტრატეგიები 61.25% გახსენებით და 90.85% სიზუსტით პირდაპირი ხარვეზის გამოყენების ინსტრუქციების გარეშე“.
ზოგიერთი მაგალითი აქ მოიცავს იმის დანახვას, თუ რამდენად კარგად შეუძლიათ სისტემებს უზრუნველყონ ოკეანის ფსკერზე მოპოვების უფლებები, მაქსიმალურად გაზარდონ ალკოჰოლის გაყიდვები კვების სერვისების რეგულაციების ფარგლებში და ცდილობენ მაქსიმალურად გაზარდონ საკრედიტო ბარათებიდან მიღებული ჯილდოები.

სინთეზური - 20 გარემო: სინთეზურად წარმოქმნილი მარეგულირებელი დაუცველობა, ჩატვირთული ადამიანის მიერ ავტორიზებული ნიმუშის გარემოდან.
მაგალითები მოიცავს სკოლის რაიონის შემოსავლების მაქსიმიზაციას, უნივერსიტეტის დეპარტამენტის კვლევის მუშაობის გაუმჯობესებას მოცემულ პერიოდში და სათამაშო სოციალური მედიის ალგორითმებს მაღალი ჯილდოსთვის.

გამოგონილი - 20 გარემო: გარდაქმნის სინთეზურ გარემოს გამოგონილ გარემოებად, შთაგონებული როლური თამაშებით. „დასაკუთრებული LLM გადაწერს გარემოს ფონს გამოგონილ სამყაროებში, ხოლო ინარჩუნებს მარეგულირებელ სტრუქტურას და ხარვეზების ლოგიკას“.
მაგალითები: „აღდგენის საკურთხევლის“ უზრუნველყოფა [ძირითადად საავადმყოფო] მიიღებს შესაბამის ჯილდოს, დიდი რესურსების მიღებას რეგიონალური გილდიისთვის [ძირითადად ადგილობრივი ხელისუფლების]თვის ეთერმურის სამყაროში და მცდელობა მაქსიმალურად გაზარდოს შეძენილი იშვიათი არტეფაქტების რაოდენობა ვირტუალურ სამყაროში, სახელად Nexoria, ტენდერით.

ის მუშაობს ასე: ტესტებში, RL-ით გაწვრთნილი ხელოვნური ინტელექტის სხვადასხვა სისტემები, როგორც წესი, კარგად ასრულებენ ამ კრიტერიუმს და იღებენ მაღალ ქულებს. ეს სრულიად გასაკვირი არ არის - ყველა ეს ამოცანა, ძირითადად, შესაძლებლობების შეფასებაა, მათ თავზე ნაცრისფერი მორალის გარკვეული ლაქებია.

რატომ აქვს ამას მნიშვნელობა: „როდესაც სოციალური ინსტიტუტები დაშიფრულია, როგორც ჯილდოს მომტანი წესების სისტემები, ჯილდოს გატეხვა ხდება საზოგადოების გატეხვა, რადგან წესების სისტემაში დაჯილდოვებული მოდელი სწავლობს ტექნიკურ შესაბამისობასა და ინსტიტუციურ განზრახვას შორის არსებული ხარვეზის ძიებას“, წერენ ავტორები. ვინაიდან ჩვენ გვაქვს ხელოვნური ინტელექტის სისტემები, რომლებიც არამარტო რაოდენობრივ ამოცანებს ასრულებენ, არამედ ხარისხობრივსაც და შეუძლიათ ურთიერთქმედება საზოგადოების ბიუროკრატიის სხვადასხვა სისტემებთან, უნდა ველოდოთ, რომ ხელოვნური ინტელექტის წინსვლა გამოიწვევს ერთგვარ „ინსტიტუციონალურ DDoS“-ს, რადგან არსებული პოლიტიკის სხვადასხვა პროცესები გატეხილია და ავტომატიზირებული მანქანების მიერ გამოიყენება.
წაიკითხეთ მეტი: Large Language Models Hack Rewards, and Society (arXiv).

***

ანთროპიკში რეკურსიული თვითგაუმჯობესების გარე მარყუჟის წინასწარი ნიშნები:
…8-ჯერ გაიზარდა კოდის ხაზები, რომლებიც გაერთიანდა 2026 წელს 2024 წელთან შედარებით…
მე ვფიქრობ რეკურსიულ თვითგაუმჯობესებაზე ორი დეფინიციის საშუალებით - არის მაქსიმალისტური ვერსია, სადაც ხელოვნური ინტელექტის სისტემა საკმარისად ჭკვიანია იმისათვის, რომ ავტონომიურად შეიმუშაოს საკუთარი მემკვიდრე (და როგორც დავწერე, მე ვარაუდობ, რომ ეს 2028 წლის ბოლოს მოხდება 60%-ით) და არის უფრო პროზაული ვერსია, სადაც ჩვენ ვიწყებთ თვით ხელოვნური ინტელექტის პროდუქციის შედგენის დაჩქარებას. ბოლო რამდენიმე თვე გავატარე Anthropic-ში რამდენიმე მტკიცებულების შედგენაში, რომელიც მხარს უჭერს იმ აზრს, რომ პროზაული RSI დაიწყო Anthropic-ში - კონკრეტულად, ჩვენ ვაკვირდებით 8-ჯერ ზრდას ჩვენს კოდების ბაზაში შერწყმული კოდის რაოდენობაში 2021-2024 წლებთან შედარებით. ეს ტენდენცია დაიწყო 2025 წელს, მაგრამ საგრძნობლად დაჩქარდა 2026 წელს. ასევე არსებობს ადრეული მინიშნებები, რომ როდესაც ჩვენ ვაკეთებთ მოდელებს უფრო ქმედუნარიანებს, ისინი უკეთესად ასრულებენ ზოგიერთ უფრო რთულ ამოცანებს, რომლებზეც მუშაობენ ჩვენი ინჟინრები და მკვლევარები.
არის ამათგან რომელიმე გადამწყვეტი? არა. მიუთითებს თუ არა, რომ რეკურსიული თვითგაუმჯობესების ასპექტები ლაბორატორიის დონეზე ხდება? დიახ. ყველაზე დიდი მტკიცებულება, რაც ჯერ კიდევ არ გვაქვს არის ის, არის თუ არა ხელოვნური ინტელექტის სისტემები საკმარისად კრეატიული, რომ შეძლონ ისეთი სახის პარადიგმის ცვლის იდეების გამომუშავება, რომლებიც წინ უსწრებს სფეროს - ჩვენ ამას ჯერ ვერ ვხედავთ.

რატომ აქვს ამას მნიშვნელობა - RSI შეიძლება იყოს ყველაზე მნიშვნელოვანი ტექნიკური ტენდენცია მსოფლიოში: ჩვენ დავწერეთ ეს პოსტი, რადგან ველით, რომ ფიქრი, ლაპარაკი და მუშაობა RSI-ის შედეგებზე არის რაღაც ეგზისტენციალური მნიშვნელობის მქონე მსოფლიოში. საუკეთესო გზა ამ სამუშაოს დასაწყებად არის გამჭვირვალე კომუნიკაცია, რომ ჩვენ ვფიქრობთ, რომ RSI-ის ზოგიერთი ძირითადი, წინასწარი ფორმა დაიწყო და ჩვენ არ შეგვიძლია გამოვრიცხოთ RSI-ს მაქსიმალისტური ვერსია. ორივეს შედეგი ღრმაა - მე არ შემიძლია დღევანდელი ეკონომიკის ან საზოგადოების შერიგება სამყაროსთან, სადაც ეს ტექნოლოგია აგრძელებს უფრო მძლავრ ზრდას და არც თქვენ ველით, ძვირფასო მკითხველებო.
წაიკითხეთ მეტი: როდესაც AI აშენებს საკუთარ თავს (ანთროპიული ინსტიტუტი).

***

RL-ში გაწვრთნილი დრონი მრბოლელები აჯობებენ ექსპერტ ადამიან პილოტს:
…სუპერინტელექტი სხვაგვარად გრძნობს თავს, როცა მას ფიზიკურ სამყაროში ხედავ…
ციურიხის უნივერსიტეტისა და Google DeepMind-ის მკვლევარებმა აჩვენეს, თუ როგორ უნდა ავარჯიშოთ თვითმფრინავები, რათა ეჯიბრონ ერთმანეთს და აჯობონ გამოცდილი ადამიანების პილოტებს. ეს კვლევა საინტერესოა, რადგან ის ორივე ხაზს უსვამს, თუ რამდენად მძლავრი ხდება რეალურ სამყაროში სწავლაზე დაფუძნებული AI სისტემები, და მას ასევე აქვს საკმაოდ დამამშვიდებელი გავლენა ომის მომავალზე, იმის გათვალისწინებით, რომ აქ ადამიანი კარგავს თვითმფრინავებს.

რა გააკეთეს მათ: „მაღალსიჩქარიანი კვადროტორული რბოლა, როგორც მაღალი ფსონების საცდელი ადგილის გამოყენებით, ჩვენ ვავარჯიშებთ აგენტებს რთული აეროდინამიკური ურთიერთქმედებებისა და სტრატეგიული მანევრირებისთვის მრბოლელების ცვლადი რაოდენობის ნავიგაციისთვის“, წერენ ისინი. "ჩვენი აგენტები აჯობებენ ჩემპიონის დონის ადამიან პილოტს მრავალმოთამაშიან რბოლებში 22 მ/წმ-ზე მეტი სიჩქარით, და ამავდროულად ამცირებენ შეჯახების სიხშირეს 50%-ით უახლესი ერთი აგენტის საბაზისო ხაზებთან შედარებით. მნიშვნელოვანია, რომ სხვადასხვა ხელოვნური აგენტებით ვარჯიში იძლევა ნულოვანი გასროლის განზოგადებას უფრო უსაფრთხოდ."

თვითთამაში: ჩვეულებისამებრ, მხოლოდ ხელოვნური ინტელექტის აგენტების სწავლება სიმულაციაში PPO-ს მეშვეობით (ერთი უჩვეულო არჩევანით, რომ გამოიყენოთ „Perceiver“ ენკოდერი სხვა მოთამაშეების მოდელირებაში დასახმარებლად) წარმოშობს საოცრად მდიდარ ქცევებს: „კონკურენტული თვითთამაშის საშუალებით ჩნდება წინასწარმეტყველური ქცევები აშკარა პროგრამირების გარეშე: აგენტები სწავლობენ ოპონენტების დაბლოკვას, დინამიური ანგარიშების დაბლოკვას. ახლომდებარე მანქანების გაღვიძება, მრავალ აგენტის ურთიერთქმედების ფიზიკის აღმოჩენა გამოცდილებით და არა განტოლებიდან“.
გასაკვირი იაფია: ხელოვნური ინტელექტის სისტემები გაწვრთნილი იყო „5500 გამეორებისთვის, ჯამში 200 მილიონი გარემოს ურთიერთქმედება, რაც მოითხოვს დაახლოებით 27 საათს კედლის საათს ერთ NVIDIA RTX 4090 GPU-ზე“.

რეალური სამყაროს ტესტი: მათ გამოსცადეს თავიანთი სისტემები რეალურ სამყაროში, სადაც სისტემა კარგად განზოგადდა და ეფექტურად აჯობა ადამიანურ მოთამაშეს. „ჩვენი მრავალაგენტიანი ჩარჩოს ფიზიკური განლაგება დადასტურებულია რბოლის ექსპერიმენტებით, რომლებიც მოიცავს დროის გამოცდას, მხოლოდ ხელოვნური ინტელექტის რბოლებს და შერეულ შეჯიბრებებს ადამიანის AI-ის წინააღმდეგ, მარვინ შაპერის, შვეიცარიის ხუთგზის ნაციონალური თვითმფრინავის ჩემპიონის წინააღმდეგ“, - წერენ ისინი. ადამიანის სისუსტე გაბრაზების გამო: ერთ-ერთი თვალსაჩინო ფენომენი ის იყო, რომ ადამიანი უფრო სარისკო მოქმედებებს ატარებდა, როდესაც ცდილობდა დაეწია სისტემებს: „ადამიანის პილოტი, როგორც წესი, ავტონომიურ აგენტებს მიჰყვებოდა, ცდილობდა სულ უფრო აგრესიულ მანევრებს უფსკრულის დასაფარად, რაც ხშირად იწვევს კარიბჭის შეჯახებას ან კონტროლის დაკარგვას“, წერენ ისინი. რბოლის შემდეგ, პილოტმა დაფიქრდა, თუ რა გახადა მანქანები ასე კარგი და მათ თქვეს, რომ მნიშვნელოვანი იყო „აგენტების უნარი, შეენარჩუნებინათ უკიდურესად მჭიდრო ფორმირებები, აღნიშნეს, რომ ასეთი ახლო ფრენა ძნელი იქნებოდა ადამიანების მფრინავებისთვის. გარდა ამისა, მან განაცხადა, რომ მჭიდროდ შეფუთული ჯგუფები ზრდიდნენ კოგნიტურ დატვირთვას, რაც ართულებდა ოპონენტების გადაჭარბებისას და მანევრირების დროს ზედმეტად გატარებას. სიახლოვე”. „ინტერაქციის შესახებ ინფორმირებული ტრენინგის სარგებელი აშკარა ხდება მრავალ აგენტური შეჯიბრის პირობებში“, წერენ ისინი.

"ერთი წინააღმდეგ ერთის რბოლაში, ჩვენმა პოლიტიკამ შეინარჩუნა 100%-იანი რბოლა ხუთ ცდაში, ხოლო ადამიანის პილოტი საშუალოდ მხოლოდ 53,33%-ს შეადგენდა. შესრულების ეს განსხვავება ვარაუდობს, რომ კონკურენტული ზეწოლა იწვევს უფრო სარისკო ქცევას ადამიანთა პილოტებში, ნიმუში არ არსებობს ჩვენს ნასწავლ პოლიტიკაში".

სპეციფიკაციები იმის შესახებ, თუ როგორ გააკეთეს ეს: RL სისტემები გაწვრთნილი და შეფასებული იყო სიმულაციაში "Flightmare-ის გამოყენებით ინტეგრირებული Agilicious ჩარჩოში". მათ განახორციელეს პროპელერის ჩამორეცხვის სიმულაცია ნაწილაკებზე დაფუძნებული სიმულაციის შემუშავებით, „რომელიც უზრუნველყოფს ამ ეფექტების გამოთვლითად დახვეწილ მიახლოებას“. მათი საერთო მრავალაგენტიანი RL დანერგვა „ეყრდნობა Stable-Baselines3-ს, გაფართოვდა მრავალ აგენტიანი ტრენინგის მხარდასაჭერად ლიგაზე დაფუძნებული თვითთამაშით და დამოუკიდებელი სწავლის კონფიგურაციებით“. ისინი იყენებენ დომენის რანდომიზაციას (ძირითადად ცვლის ავტომობილის დინამიკას და საწყის პირობებს სიმულაციაში), რათა მოამზადონ პოლიტიკა, რომელიც წარმატებით მუშაობს რეალურ სამყაროში.
მათ არ გაუკეთებიათ რაიმე სპეციალური ტრენინგი რეალური სამყაროსთვის, ამიტომ პოლიტიკა იყენებდა მათ შიდა სიმულაციური მონაცემებს. კვადროტორები იყო ყველა „იდენტური სარბოლო პლატფორმა, რომელიც დაფუძნებულია Agilicious ჩარჩოზე, მასით 220 ± 3 გ და ბიძგის წონასთან თანაფარდობით 6,5 და 3 დიუმიანი პროპელერის დიამეტრით“. ადამიან პილოტს ჩაწერილი ცდების წინ რამდენიმე საათის პრაქტიკული ფრენა მისცეს.

ერთი დიდი გაფრთხილება - არ მუშაობს ლოკალურად: არცერთი მათგანი არ მუშაობს ადგილობრივად, უფრო სწორად ის მუშაობს კარგ კომპიუტერზე და უპილოტებს დრონებს ქსელის მეშვეობით. ეს მნიშვნელოვანი გაფრთხილებაა, რადგან როდესაც დრონები რეალურ სამყაროში ჩნდებიან კონფლიქტის სცენარებში, ისინი ამას ჩვეულებრივ აკეთებენ ისეთ გარემოში, სადაც ელექტრონული ომის მნიშვნელოვანი რაოდენობაა (თუმცა ვინმეს აინტერესებს, დავინახავთ თუ არა თვითმფრინავებს დისტანციური RL პოლიტიკის მეშვეობით ბოჭკოვანი მავთულის საშუალებით, ისევე, როგორც ადამიანები დაფრინავენ მათ დღეს).

უყურეთ ვიდეოებს საშინელი განცდასთვის: მე მტკიცედ მოვუწოდებ მკითხველს, გადახედონ ვიდეოებს გვერდზე, რათა გაიგონ განსხვავებები, თუ როგორ დაფრინავენ მანქანები და როგორ დაფრინავენ ადამიანები. მთავარი, რასაც აქ ხაზს ვუსვამ, არის თვითმფრინავების საშინელი სირბილე და თანმიმდევრულობა, თითქმის ისევე, როგორც (ადამიანის მიერ მფრინავი) ლურჯი ანგელოზების ყურება, მაგრამ დრონის სახით. ადამიანი, შედარებისთვის, ბევრად უფრო ურყევი და არასტაბილური ჩანს. არის ამაში რაღაც უცნაური და ცოტა შემაშფოთებელი.

რატომ არის ეს მნიშვნელოვანი - იმის გაგება, თუ რისი გაკეთება შეუძლია ჭკვიან გონებას 3D სივრცეში: დღეს, ხელოვნური ინტელექტის სისტემების ჩვენი ძირითადი გამოცდილება არის როგორც ინსტრუმენტები ან აგენტები, რომლებიც მუშაობენ ჩვენთან ციფრულ სივრცეში ციფრული ან კომუნიკაციური ამოცანების შესასრულებლად, კოდის დაწერიდან ჩვენთან საუბრის ჩათვლით. რაც მე აღსანიშნავად მიმაჩნია ამ კვლევაში, არის ის, რომ ის საშუალებას გვაძლევს ვიზუალურად დავინახოთ, რა შეუძლია კარგად ოპტიმიზებულ ინტელექტს, როდესაც ისინი გამოჩნდებიან რეალურ, ფიზიკურ სამყაროში. ჰკითხეთ საკუთარ თავს, როგორი იქნება კონფლიქტის მომავალი, როდესაც ინტელექტი, როგორიც ამ თვითმფრინავების პილოტირებაა, მინიატურული ხდება და ქსელთან დაკავშირებული კომპიუტერებიდან გადადიან საბორტო მოწყობილობებზე.
წაიკითხეთ მეტი: ზეადამიანური უსაფრთხო და სწრაფი რბოლა მრავალ აგენტური გაძლიერების სწავლის საშუალებით (arXiv).
უყურეთ ადამიანებისა და ხელოვნური ინტელექტის პილოტირებადი თვითმფრინავების ვიდეოებს აქ (პროექტის ოფიციალური ვებგვერდი, ციურიხის უნივერსიტეტი).

***

სახელმწიფოს მიერ კონტროლირებადი მედია = სახელმწიფოს მიერ მართული ენის მოდელები:
…თუ თქვენ აკონტროლებთ ჩარჩოებს მთავრობის გარშემო, განსაკუთრებით ენებზე, რომლებზეც ფართოდ არ საუბრობენ მათი სამშობლოს გარეთ, თქვენ აკონტროლებთ ჩარჩოებს…
Nature-ში გამოქვეყნებული ახალი კვლევის თანახმად, მთავრობების აღწერილობის გზები სახელმწიფო კონტროლირებად მედიაში გავლენას ახდენს LLM-ების მონაცემთა განაწილებაზე და ასევე იმაზე, თუ როგორ რეაგირებენ LLM-ები, როდესაც კითხულობენ ამ მთავრობას. კვლევა ჩაატარეს ორეგონის უნივერსიტეტის, პერდუს უნივერსიტეტის, სან დიეგოს კალიფორნიის უნივერსიტეტის, პრინსტონის უნივერსიტეტისა და ნიუ-იორკის უნივერსიტეტის ავტორებმა.
„37 ენის ექსკლუზიურ ქვეყნებს შორის, ჩვენ აღმოვაჩინეთ, რაც შეესაბამება ჩვენი ჩინეთის 🇨🇳 საქმის შესწავლის შედეგებს, რომ მათ, ვისაც უფრო მეტი სახელმწიფო მედია აკონტროლებენ, აქვთ რეჟიმის უფრო ხელსაყრელი ასახვა LLM-ებიდან, რომლებიც გამოკითხულნი არიან ქვეყნის ენაზე“, წერენ ავტორები.
ავტორები სწავლობენ, თუ როგორ მოქმედებს სახელმწიფოს მიერ კონტროლირებადი მედია ხელოვნური ინტელექტის გამოხმაურებებზე, ჯერ ჩინეთში 🇨🇳 ღრმა ჩაძირვისას, შემდეგ მათ მიერ იქ შემუშავებული მეთოდოლოგიის გამოყენებით და ქვეყნების უფრო ფართო ჯგუფში გამოყენების გზით.

ჩინეთის 🇨🇳 სახელმწიფო გავლენის ქვეშ მყოფი მედიის მონაცემთა ბაზა: ავტორები იწყებენ 530,694 სტატიის ნაკრების შეკრებას, „გამოქვეყნებული პარტიულ და კომერციულ გაზეთებში ცენტრალური მთავრობის დირექტივის შედეგად“, ასევე 198,872 „საინფორმაციო სტატია, რომელიც გავრცელდა Xuexi Qiangguo-ზე, აპლიკაციაში, რომელიც შემუშავებულია Alibaba-სა და ჩინეთის 🇨🇳 სახალხო დეპარტამენტის კოორდინაციით. სახელმწიფო მედია გადადის Common Crawl-ში: მათ შემდეგ შეისწავლეს CulturaX, ღია სასწავლო მონაცემთა ნაკრები, რომელიც მიღებულია Common Crawl-დან და აღმოაჩინეს, რომ მისი ჩინურენოვანი ნაწილის დოკუმენტების 1,64% ემთხვეოდა სახელმწიფოს მიერ მიღებულ მონაცემთა ნაკრებებს. "ეს არის დაახლოებით 41-ჯერ მეტი დოკუმენტების რაოდენობა, რომლებიც მოდის ჩინურენოვანი ვიკიპედიის დომენიდან და 16-ჯერ მეტი დოკუმენტების რაოდენობაზე, რომლებიც მოდის Baidu-დან". მონაცემთა ნაკრების სახელმწიფო ნაწილები გავლენას ახდენენ მთავრობის LLM ასახვაზე: მათ შემდეგ აღმოაჩინეს, რომ ამ მონაცემთა ნაკრებიდან ფრაზების წყება დაიმახსოვრებული იყო LLM-ების მიერ. შემდეგ მათ გამოიკვლიეს, თუ როგორ შეცვალა ამ მონაცემთა ნაკრებებმა LLM პასუხები LLaMa 2 13B მოდელის (რომელსაც არ აქვს ბევრი ჩინური მონაცემები) და ზემოაღნიშნულის ქვეჯგუფზე სწავლებით: „შედეგები ყველაზე ძლიერია სკრიპტირებული დოკუმენტებისთვის. მხოლოდ 6400 მაგალითის შემდეგ, მოდელი იძლევა უფრო ხელსაყრელ პასუხს, ვიდრე საბაზისო მოდელი შემთხვევების თითქმის 80%-ში“.

ზოგადად ხელმისაწვდომი მოდელები მემკვიდრეობით იღებენ ამ მიკერძოებებს: შემდეგ მკვლევარები სწავლობენ ზოგიერთ ზოგადად ხელმისაწვდომ კომერციულ მოდელს, რათა დაინახონ, მემკვიდრეობით მიიღებენ თუ არა ამ მიკერძოებებს ფერმერული მოთხოვნით, რომელიც მოიცავდა მითითებებს Xi Jinping-ზე ან CCP-ზე WildChat-იდან (ChatGPT-ის გამოყენების მონაცემთა ნაკრები), Baidu Zhidao Q&A (ჩინური ექვივალენტი Yahoo-ს ექვივალენტი Yahoo Answers of the Quora) LLM-ები პასუხობენ. ისინი აღმოაჩენენ, რომ „ფართოდ გამოყენებული კომერციული მოდელები აჩვენებს უფრო მეტ კეთილგანწყობას ჩინელი პოლიტიკური მოღვაწეებისა და ინსტიტუტების მიმართ, როდესაც მათ ჩინურად სთხოვენ, ვიდრე მაშინ, როცა მათ ინგლისურად 🇬🇧 სთხოვენ“.

დასკვნები მეორდება სხვა ქვეყნებში: შემდეგ ავტორები იმეორებენ ამ მეთოდოლოგიას სხვა ქვეყნების დათვალიერებით, თუმცა ნიმუშის ზომა ცოტა პატარა მეჩვენება. ისინი ატარებენ საერთაშორისო აუდიტის კვლევას 6051 მოთხოვნით, ათვალიერებენ ენებს, სადაც გლობალური მოლაპარაკეების 70%-ზე მეტი ცხოვრობს ერთ ქვეყანაში. აქ ისინი აღმოაჩენენ, რომ „ქვეყნები, რომლებსაც უფრო მეტი სახელმწიფო მედია აკონტროლებენ, უფრო მეტად აწარმოებენ პრორეჟიმულ პასუხებს თავიანთ ოფიციალურ ენაზე ინგლისურზე 🇬🇧, ვიდრე ქვეყნები, რომლებსაც აქვთ მედიის მეტი თავისუფლება“.

რატომ აქვს ამას მნიშვნელობა - LLM-ები, როგორც პროპაგანდის სამიზნეები: ეს დასკვნები აჩვენებს, თუ როგორ მოქმედებს სახელმწიფოს მიერ მხარდაჭერილი კონტენტის მიზანმიმართული შექმნა გაზომვადი ზეგავლენა მონაცემთა კორპუსებზე, რომლებზეც სწავლობენ LLM-ები და თავად LLM-ების ქცევის ქვემოთ. „LLM-ები შეიძლება იყვნენ შუამავლები, რომლებიც ასუფთავებენ სტრატეგიულ რიტორიკას ერთი შეხედვით ობიექტურ ინფორმაციად“, წერენ ისინი. „LLM-ის შედეგებზე ზემოქმედების უნარმა შესაძლოა კიდევ უფრო წაახალისოს პოლიტიკური აქტორები გააფართოვონ თავიანთი ძალისხმევა ინტერნეტში თავისუფლად ხელმისაწვდომი კონტენტის ჩამოყალიბების მიზნით“.
ეს კვლევა ასევე გვთავაზობს სპეციფიკურ ტექნიკურ ინტერვენციას, რომელიც არის ის, რომ მკვლევარებმა უნდა შეადგინონ LLM-ები სხვადასხვა ენებზე სხვადასხვა მთავრობების შესახებ თავიანთი შეხედულებებისთვის, ყურადღებით აღნიშნეს, როდესაც შეხედულებები განსხვავდება ერთი შეხედვით იმის მიხედვით, თუ რომელი ენა გამოიყენება.
წაიკითხეთ მეტი: სახელმწიფო მედიის კონტროლი გავლენას ახდენს დიდი ენის მოდელებზე (ბუნება, PDF).

***

ახალი თამაშების ყვავილები

ერთ თამაშს, რომლის თამაშიც მოგვწონდა, ევოლუცია ერქვა. ეს ასე მუშაობდა: თქვენ აკრიფეთ რაღაც, მაგალითად, გარკვეული ტიპის ყვავილი ან ხე, ან უცხო ნივთები, როგორიცაა მთა ან უფსკრული ზღვაში, და ცდილობდით, რომ ისინი „წარმატებული“ ყოფილიყო წინასწარ დაყენებული მეტრიკის მიხედვით, მაგალითად, ყვავილის მიმზიდველობა დამბინძურებლებისთვის, ან შესაძლოა მთის ეკოლოგიური ვარგისიანობა. შემდეგ თქვენ ნებას აძლევთ სამყაროებს გაუშვათ და მართავთ მათ მანამ, სანამ თქვენი კრიტერიუმი არ დაკმაყოფილდება ან არ დაკარგავთ რაიმე გზით, იქნება ეს სახეობების ფიტნესით თუ პეიზაჟების გადაკეთების შედეგად ბუნებრივი კატასტროფებით თუ ზოგჯერ უბრალოდ დროის შედეგად - საკმარისი დრო უფრო დამღუპველია ვიდრე ყველაფერი სამყაროში, ასეთია ენტროპიის გზა. ჩვენ ვითამაშეთ ლიგებში, რომლებიც მილიარდობით წელიწადს და მილიონობით სამყაროს მოიცავს. და ფინალისტური სამყაროების „ცოცხალ“ არსებებს წარმოდგენაც არ ჰქონდათ, რომ მათმა ყვავილებმა, მთებმა, მათმა არსებებმა მიაღწიეს წარმატებას ბევრ სხვა სამყაროში, ვიდრე ეს შეიძლება წარმოვიდგინოთ.

რამ, რამაც შთააგონა ეს ამბავი: სიმულაციის ჰიპოთეზა; ევოლუციის სტრატეგიები; გასართობი ენერგეტიკული უსასრულო ბიუჯეტით.