კეთილი იყოს თქვენი მობრძანება Import AI-ში, საინფორმაციო ბიულეტენი AI კვლევის შესახებ. იმპორტი AI მუშაობს arXiv-ზე, კაპუჩინოებზე და მკითხველების გამოხმაურებაზე. თუ გსურთ მხარი დაუჭიროთ ამას, გთხოვთ გამოიწეროთ.

AI ეკონომიკა აშშ 🇺🇸-ში იზრდება 2000%-ით წელიწადში:
რაც უფრო პირდაპირ გაზომავთ ხელოვნური ინტელექტის ეკონომიკას, მით უფრო უცნაური და უპრეცედენტო ჩანს…
ვირჯინიის უნივერსიტეტის* და ანთროპიკის უნივერსიტეტის ეკონომისტებმა და კანადის ბანკმა დაწერეს ნაშრომი, რომელშიც ასახულია როგორც განვითარებული „AI ეკონომიკის“ უზარმაზარი ზრდა აშშ 🇺🇸-ში, ასევე იმის თაობაზე, თუ რატომ არის ეს ზრდა ძნელი შესამჩნევი მთლიანი შიდა პროდუქტის სტატისტიკაში.
„შეერთებულ შტატებში ხელოვნური ინტელექტის ეკონომიკა უპრეცედენტო ტემპით იზრდებოდა, მაგრამ ეს არაჩვეულებრივი ზრდა ძირითადად შეუმჩნეველია ჩვეულებრივი მშპ-ს სტატისტიკაში“, წერენ ისინი. ხელოვნური ხელოვნური ინტელექტის სექტორის, როგორც თანმიმდევრული ეკონომიკური ერთეულის, წინასწარი შეფასებით, ნომინალური ხელოვნური ინტელექტის მშპ 2025 წელს დაახლოებით 250 მილიარდ აშშ 🇺🇸 დოლარს შეადგენს, რაც იზრდება დაახლოებით 2600 პროცენტით წელიწადში ხარისხზე მორგებული რეალური თვალსაზრისით.

რატომ არის ძნელი მისახვედრი: აქ არის რამდენიმე ფაქტორი - ერთი ის არის, რომ მიუხედავად იმისა, რომ მონაცემთა ცენტრის მშენებლობის ბუმი დიდია, ის მაინც არ არის საკმარისად დიდი, რომ მშპ მნიშვნელოვნად გაზარდოს. შედარებისთვის, სადაც ხელოვნური ინტელექტის ეკონომიკური ზემოქმედების უმეტესი ნაწილი ხდება ხელოვნური ინტელექტის დასკვნაში - ხელოვნური ინტელექტის სისტემების გამოყენებაში - მაგრამ აქ არის დამაბნეველი ფაქტორები, რაც ეხება მშპ-ს გაზომვას: „ინტელექტუალური ინტელექტის ნომინალური შემოსავლები მხოლოდ ზომიერად იზრდება, რადგან ერთეულზე ფასები AI შესაძლებლობების ნებისმიერ დონეზე ეცემა თითქმის ისევე სწრაფად, როგორც ხარისხზე მორგებული გამომუშავება“.

თუ ამას ვერ გავზომავთ, შეიძლება გაგვიკვირდეს ისე, რომ ძნელია გამოჯანმრთელება: „AI არის უახლესი სწრაფი მოძრავი ტექნოლოგიების სერიიდან, რამაც გამოიწვია გაზომვების შეშფოთება; ნახევარგამტარებმა და ინტერნეტმა თავის დროზე მსგავსი დებატები გამოიწვია“, - წერენ ისინი. მაგრამ მთავარი განსხვავება ისაა, რომ ხელოვნური ინტელექტის, როგორც ტექნოლოგიას, შესაძლოა გაცილებით დიდი გავლენა ჰქონდეს შრომაზე, ვიდრე ამ სხვა ტექნოლოგიებს. ”წინა ეპიზოდებში, სწრაფად გაუმჯობესებული ტექნოლოგია იყო ადამიანის შრომის დანამატი მთლიან დონეზე,” წერენ ისინი. ”AI არის პირველი სარწმუნო კანდიდატი ფართომასშტაბიანი ტექნოლოგიური არასწორი გაზომვისთვის, რომელშიც სწრაფად გაუმჯობესებული სექტორი შეიძლება გახდეს ადამიანის შრომის შემცვლელი”.

AI ეკონომიკის გაზომვის სამი გზა:

ნომინალური გამოთვლითი ხარჯები: აშშ 🇺🇸-ს გამოთვლითი ხარჯები გაიზარდა 2023 წელს 37 მილიარდი დოლარიდან 2024 წელს 90 მილიარდ დოლარამდე 2025 წელს 219 მილიარდ დოლარამდე.

ნედლეული გამოთვლითი სიმძლავრე: უახლესი ჩიპების ეფექტურობის გამო, რეალური სიმძლავრე იზრდება კიდევ უფრო სწრაფად, ვიდრე ხარჯვა: „აშშ 🇺🇸-ის AI გამოთვლითი სიმძლავრე გაიზარდა 200 პროცენტზე მეტით წელიწადში“.

ხარისხზე მორგებული ხელოვნური ინტელექტის გამომავალი: თუ გაითვალისწინებთ ალგორითმულ პროგრესს დასკვნის ფასების ფიქსირებული საორიენტაციო ეფექტურობით, ისევე როგორც ვარაუდებით იმის შესახებ, თუ რამდენად იაფი ჯდება მოდელების მომზადება, მაშინ ყველაფერი კიდევ უფრო დრამატული გახდება: „ეფექტურობის ეს მიღწევები გულისხმობს, რომ ხარისხით მორგებული AI გამომუშავება გაიზარდა დაახლოებით 2,2221 პროცენტით და 2,27 პროცენტით 2,27 პროცენტით. 2025”.

ხელოვნური ინტელექტის ეკონომიკა ბევრად, ბევრად უფრო დიდია, ვიდრე ჩვეულებრივი გაზომვები გვთავაზობს: „ჩვეულებრივი სტატისტიკა აჩვენებს, რომ სექტორი ნელა იზრდება ნომინალური თვალსაზრისით; ჩვენი ზომები აჩვენებს სექტორს, რომლის ძირითადი სიმძლავრე ყოველწლიურად გაორმაგდება. ფინანსთა სამინისტრო, რომელიც აწარმოებს შემოსავლების ათწლიან პროგნოზებს ჩვეულებრივი მონაცემების მიხედვით, არსებითად შეამცირებს შრომის საგადასახადო ბაზის რეფორმის ალბათობას. სუვერენული სიმდიდრის ფონდები ან სარგებლის გაზიარების სხვა სქემები, რომლებიც შეიძლება მოითხოვოს ასეთმა შოკმა, ვერ გაიზიაროს.

სამი რეკომენდაცია: ავტორებს აქვთ სამი იდეა იმის შესახებ, თუ როგორ შეგვიძლია გადავჭრათ ეს საზომი გამოწვევა და უკეთ დავიცვათ თავი აი-ის ეკონომიკის ჭეშმარიტი ფორმის დასანახად.

ხელოვნური ინტელექტის სატელიტური ანგარიშები: სტატისტიკურმა სააგენტოებმა უნდა შეიმუშაონ „AI სატელიტური ანგარიშები“, რომლებიც შეიმუშავებენ ზომებს (მაგ., ნომინალური გამოთვლითი ხარჯები), რაც დაგეხმარებათ მთლიანი შიდა პროდუქტის გამოთვლების შესახებ.

უკეთესი მონაცემების გენერირება: პარტნიორობა სტატისტიკურ სააგენტოებს, კომპანიებსა და აკადემიას შორის უკეთესი პირველადი მონაცემების გენერირებისთვის, როგორიცაა ტრენინგსა და დასკვნის გამოთვლას შორის განაწილება.

ფაქტორი პროგნოზებში: პოლიტიკის შემქმნელებმა უნდა ჩართონ ხელოვნური ინტელექტის პროდუქტიული სიმძლავრის გაზომვები მათ საშუალოვადიან ეკონომიკურ პროგნოზებში.

რატომ აქვს ამას მნიშვნელობა - გაჩუმდით და დაუკარით ყბების თემატური მელოდია: დიდ ფილმში ყბა არის ეს სცენა, სადაც ზვიგენი წყალშია და ძალიან დაძაბული მუსიკა უკრავს, რაც მიუთითებს იმაზე, რომ ზვიგენი უახლოვდება. თქვენ, აუდიტორიის წევრი, აღმოჩნდებით, რომ პრაქტიკულად გადმოხტებით თქვენი ადგილიდან და გინდათ იყვიროთ, წყალში არის ღმერთის დაწყევლილი ზვიგენი, რას აკეთებთ იქ? ეს არის ის, რაც ახლა AI-ზე მუშაობას და ეკონომიკურ მონაცემებს უყურებს: ეკონომიკური მონაცემების აბსოლუტური უმრავლესობა ამბობს, რომ დღევანდელ ეკონომიკაში განსაკუთრებული არაფერია უჩვეულო (სინამდვილეში, აშშ 🇺🇸-ში ყველაფერი კარგად გამოიყურება - დაბალი უმუშევრობა, ღირსეული ზრდა და ა.შ.). მაგრამ ყველა ადამიანის ინტუიცია, რომლებიც მუშაობენ AI-ში - მათ შორის ჩემიც - შეუძლებელია ტექნოლოგიის შესაძლებლობების შეჯერება და მისი გამოყენება ნორმალურ ეკონომიკასთან. ამ წამებულ მეტაფორაში ზვიგენი არის „AI ეკონომიკის ჭეშმარიტი ფორმა“, ხოლო ფილმის დანარჩენი ადამიანები არიან საერთო კონსენსუსის ეკონომისტი და პოლიტიკის საზოგადოება. ანტონი აქ შეიძლება იყოს აუდიტორიის წევრი, რომელიც წერს ნაშრომს, რომელიც აღწერს ზვიგენის შესაძლებლობას ზედაპირის ქვეშ. გაუფრთხილდით ყველას!
წაიკითხეთ მეტი: სად არის AI მშპ სტატისტიკაში? (PIIE).
* პასუხისმგებლობის შეზღუდვა: მიუხედავად იმისა, რომ ერთ-ერთი ავტორი, ანტონ კორინეკი, დაკავშირებულია Anthropic-თან, ეს კვლევა ჩატარდა ძირითადად მის გაწევრიანებამდე და მის მუშაობამდე კომპანიაში.

***

აი, რატომ არის ხელოვნური ინტელექტის უსაფრთხოება AI ზედამხედველობით უფრო რთული, ვიდრე ფიქრობთ:
... ავტომატური გასწორების კვლევა არ არის ვერცხლის ტყვია…
ხელოვნური ინტელექტის უსაფრთხოების მრავალი მკვლევარი ფიქრობს, რომ საუკეთესო გზა ადამიანზე ჭკვიანი მანქანების უსაფრთხოდ შესაქმნელად არის ხელოვნური ინტელექტის სისტემების ზედამხედველობა ტრენინგის ზოგიერთ პროცესზე. გაერთიანებული სამეფოს ხელოვნური ინტელექტის უსაფრთხოების ინსტიტუტის მკვლევარებმა დაწერეს ნაშრომი, სადაც ნათქვამია, თუ რატომ არის ეს მაცდური იდეა იმაზე რთული, ვიდრე ხალხი ფიქრობს.

რატომ არის რთული ავტომატური გასწორების კვლევა? ”შეცდომები ავტომატური გასწორების კვლევაში, სავარაუდოდ, უფრო რთული იქნება იდენტიფიცირება, ვიდრე ადამიანის საბაზისო ხაზი”, - წერენ ისინი. ამის რამდენიმე მიზეზი არსებობს, მათ შორის:

ოპტიმიზაციის წნევა: AI კვლევა ოპტიმიზებულია ადამიანის დასამტკიცებლად.

უცხოპლანეტელების შეცდომები: როდესაც აგენტები შეცდომებს უშვებენ, ისინი არაინტუიტიური არიან ადამიანებისთვის.

უფრო კორელაციური კვლევა: გაცილებით მეტი რამ არის გაზიარებული, ვიდრე ადამიანის მიერ გენერირებული კვლევა.

კვლევის მოცულობა: ავტომატური სისტემების მიერ მიღებული უსაფრთხოების განსაზღვრების სახეები შეიძლება გამოიყენონ გაცილებით მეტი მტკიცებულება ბევრად მეტი ურთიერთქმედებით, ვიდრე ადამიანის მიერ გენერირებული კვლევა.

არაადამიანური შეფასების არგუმენტები: გასწორების გადაწყვეტილებები შეიძლება ეყრდნობოდეს არგუმენტებს, რომლებსაც ადამიანები ვერ იცავენ.

რა ვქნათ? ისინი გვთავაზობენ რამდენიმე ინტერვენციას, რომელსაც შეუძლია გააუმჯობესოს ვითარება:

გაზომვა:
- ხელახლა შექმენით დასრულებული კვლევითი პროექტები: აიღეთ ჟურნალები წარმატებული პროექტებიდან თვითნებურ ათვლის წერტილებზე და ნახეთ, რამდენად კარგად შეუძლია აგენტმა გააგრძელოს კვლევითი პროექტი.
- შეამოწმეთ აგენტის პროგნოზირების შესრულება კორელაციური მოვლენების მონაცემთა ნაკრებებზე: ნახეთ, რამდენად კარგად შეუძლიათ აგენტებს კორელირებული ქვეამოცნების სწორად შერწყმა.
- ადამიანი-აგენტის გუნდის ოპტიმალური სტრუქტურის ემპირიული კვლევები: ნახეთ, რამდენად კარგად შეუძლიათ არაექსპერტი ადამიანების გუნდებს აგენტების დახმარებით დასრულებული პროექტების გადაჭრა.

განზოგადება:
- სიმულირებული განზოგადების ექსპერიმენტები: გამოცადეთ სხვადასხვა სასწავლო მარიონეტები აგენტის მუშაობის გამოყენებით დასრულებული კვლევის პრობლემებზე ცოდნის წყვეტის მიღმა.
- განზოგადების მექანიკური გაგება: გამოიყენეთ whitebox მეთოდები, როგორიცაა მექანიკური ინტერპრეტაცია.

მასშტაბური ზედამხედველობა:
- კვლევითი ქაღალდის კორპუსის კომპაქტიზაცია: შეეცადეთ გამოაქვეყნოთ კვლევის შედეგების მცირე რაოდენობა, რომლებიც დაფუძნებულია ბევრად უფრო დიდ საფუძვლიან კვლევით კორპუსზე.
- შეიმუშავეთ და გამოსცადეთ ახალი მასშტაბირებადი ზედამხედველობის პროტოკოლები: შეისწავლეთ მასშტაბური ზედამხედველობის ტექნიკები, რომლებიც დაკავშირებულია დაკავშირებულ გაურკვევლობასთან.
- გამოსცადეთ სხვადასხვა ადამიანის ხარაჩოები ბუნდოვან ამოცანებზე არაექსპერტიული მუშაობის გასაუმჯობესებლად.
- წითელი გუნდის ავტომატური გასწორების პროგრამები: „წითელი გუნდი აიძულებს აგენტს, დამალოს შეცდომები კვლევითი ქაღალდის კორპუსში და ლურჯი გუნდი ცდილობს ამ შეცდომების დაჭერას აგენტის დახმარებით“.

რატომ აქვს ამას მნიშვნელობა - ვინ აკონტროლებს მომავალს? შეგვიძლია თუ არა ადამიანზე უფრო ჭკვიანი სისტემების ზედამხედველობა, ფუნდამენტურად არის საკითხი იმის შესახებ, თუ ვინ აკონტროლებს მომავალს. თუ ჩვენ არ ავაშენებთ ტექნიკას, რომელიც მუშაობს, მაშინ ადამიანები დაიკავებენ უკანა სკამზე, ან ამ სისტემების არასწორი განლაგების გამო, ან თანდათანობით დაქვეითების გამო, როდესაც ისინი ჩვენზე ზედმეტად ფიქრობენ. თუ ჩვენ შეგვიძლია შევქმნათ ადამიანზე ჭკვიანური ზედამხედველობის ტექნიკა, მაშინ უფრო მეტი შანსი გვექნება არჩევანის გაკეთება მომავალი არსებობის ბუნების შესახებ.
წაიკითხეთ მეტი: ავტომატური გასწორება იმაზე რთულია, ვიდრე ფიქრობთ (arXiv).

***

100 მილიონი ნებადართული ლიცენზირებული სურათი:
…სასიამოვნო რესურსი აკადემიკოსებისა და სტარტაპებისთვის…
სტენფორდის უნივერსიტეტის, Radical Numerics-ის, მიჩიგანის უნივერსიტეტისა და Salesforce Research-ის მკვლევარებმა გამოუშვეს გიგანტური გამოსახულების კორპუსი (GPIC), 100 მილიონი სურათის ნაკრები, თანმხლები წარწერებით. GPIC-ის შესახებ მთავარი ის არის, რომ „ყველა GPIC სურათი არის ნებადართული ლიცენზირებული როგორც კვლევისთვის, ასევე კომერციული გამოყენებისთვის“, წერენ ისინი. „GPIC არის უსაფრთხოდ გაფილტრული, დუბლიკატი და ცენტრალიზებული მასპინძლობს HuggingFace-ზე“.

დამატებითი დეტალები მონაცემთა ნაკრების შესახებ: GPIC შედგება 100M სასწავლო სურათისგან, 200k ვალიდაციისა და 1M ტესტის მაგალითებისგან. თითოეულ სურათს წარწერა ჰქონდა Qwen3-VL-4B. „GPIC ცენტრალიზებულია Hugging Face-ზე, როგორც 8000 ნატეხი, რაც უზრუნველყოფს სტაბილურ და ხელმისაწვდომ ინფრასტრუქტურას ფართომასშტაბიანი ვარჯიშისთვის“, წერენ ისინი. "ჩვენ ვიღებთ სურათებს Flickr-დან და Wikimedia-დან, ვზღუდავთ წყაროს აუზს CC BY, CC0, Public Domain და No-Known-Restrictions კატეგორიებით. ეს ლიცენზირების კრიტერიუმი უზრუნველყოფს, რომ GPIC შეიძლება გამოიყენონ როგორც აკადემიურმა, ასევე ინდუსტრიულმა მკვლევარებმა, მიღებული არტეფაქტების გამოშვების ან ქვედა დინებაში გამოყენების შეზღუდვის გარეშე."

რატომ არის ეს მნიშვნელოვანი - საწვავი კვლევისთვის: მონაცემთა ნაკრები, როგორიცაა GPIC, ძალიან სასარგებლოა როგორც აკადემიკოსებისთვის, ასევე სტარტაპებისთვის და ძირითადად უფასო, სუფთა ბოსტნეულის ექვივალენტია. თუ ვინმე შემოგთავაზებთ უფასო, სუფთა ბოსტნეულს, ალბათ უნდა აიღოთ და მადლობა გადაგიხადოთ.
წაიკითხეთ კვლევითი ნაშრომი: GPIC: გიგანტური გამოსახულების კორპუსი ვიზუალური გენერაციისთვის (arXiv).
შეიტყვეთ მეტი ვებსაიტზე: GPIC: გიგანტური გამოსახულების კორპუსი ვიზუალური თაობისთვის (პროექტის ოფიციალური ვებსაიტი).
მიიღეთ მონაცემთა ნაკრები აქ: GPIC (სახე ჩახუტებული).

***

Improving cancer research with protein prediction models:
…Biohub is an example of positive-sum competition among AI developers…
Biohub, a research organization founded by Priscilla Chan and Mark Zuckerberg, has released a rival model to DeepMind’s AlphaFold, intensifying a positive-sum race between two technology groups to develop better AI systems for expanding the capabilities of biologists worldwide.
The model, ESMFold2, is a “world model of protein biology: a scientific engine for prediction, design, and discovery that can map proteins across the tree of life, predict their structures, and design new protein binders that function in laboratory experiments.”

What it consists of: The release contains three parts:

ESMC: A “language model that represents proteins, trained on approximately 2.8 billion sequences drawn from across all of life.”

ESMFold2: A “design engine built to transform ESMC’s sequence representations into atomically-resolved 3D structure of biomolecular complexes.” According to benchmarks, ESMFold2 outperforms AlphaFold 3, though in some areas their performance is tied.

ESM Atlas: “Makes ESMC’s representations navigable across 6.8 billion protein sequences and 1.1 billion predicted structures — the largest application of AI to protein biology to date.”

კიბოს ტესტი: ერთ ექსპერიმენტში Biohub-ის მკვლევარებმა გამოიყენეს ESM ინსტრუმენტები "პროტეინის შემკვრელების შესაქმნელად კიბოსა და იმუნოლოგიური კვლევის ცენტრში ხუთი სამიზნის წინააღმდეგ - EGFR და PDGFRβ (ჩართულია სიმსივნის ზრდაში), PD-L1 და CTLA-4 (იმუნური გამშვები პუნქტები, რომლებსაც კიბოს უჯრედები იყენებენ, რათა თავიდან აიცილონ აღმოჩენის თავიდან აცილება) და CD45-ის მარეგულირებელი იმუნური ნიშნების (a). 36-88% კომპაქტური მინიბინდერებისთვის და 15-29% ანტისხეულების წარმოშობის ფორმატებისთვის, ლაბორატორიული ექსპერიმენტებით დადასტურებული შეკავშირებით,” წერს Biohub. „ESMFold2 ცვლის ადრეული თერაპიული შემკვრელის აღმოჩენის სიზუსტეს და სიჩქარეს, გარდაქმნის თავდაპირველ ძიებას მეტწილად ემპირიული სკრინინგიდან გამოთვლით ხელმძღვანელობით დიზაინში, რომელსაც საათები ან დღეები სჭირდება“.

სკალირების კანონები: თანამედროვე ხელოვნური ხელოვნური ინტელექტის უმეტესი ნაწილის მსგავსად, მკვლევარები აქ აწყდებიან სკალირების კანონებს. „ESM-ის ყველა თაობაში, რეპრეზენტაციების ერთგულების გაუმჯობესება დაკავშირებული იყო მოდელის ტრენინგში გამოყენებული პარამეტრების რაოდენობასთან და გამოთვლების რაოდენობასთან“, - წერენ ისინი. ”ცილების ბიოლოგიის წარმოდგენა არის გამოჩენილი ფენომენი, რომელიც წარმოიქმნება მოდელის ტრენინგიდან, რათა წინასწარ განსაზღვროს ამინომჟავების იდენტურობა თანმიმდევრობაში.”
ESMC: „ESMC ვარჯიშობს მეტაგენომიურ მიმდევრობებზე, რაც აფართოებს მის სასწავლო მონაცემთა ბაზას სიდიდის დაახლოებით ორი რიგით (~50 მილიონი თანმიმდევრობიდან ~2.8 მილიარდი თანმიმდევრობით) წინა თაობის ESM2 მოდელთან შედარებით.
ESMFold2: „ESMFold2-ის განვითარების ექსპერიმენტებში ჩვენ დავაკვირდით კავშირი ენის მოდელის მოსამზადებლად გამოყენებული გამოთვლის რაოდენობასა და დასაკეცი მოდელების შესრულებას შორის“, წერენ ისინი. "ESMFold2 სარგებლობს დასკვნის დროის მასშტაბით. მოდელიდან ნიმუშების რაოდენობის გაზრდით, ანტისხეულ-ანტიგენის გავლის სიხშირე იზრდება 49%-დან ერთი თესლით 65%-მდე 1000 ნიმუშით, ხოლო ცილა-ცილა გავლის სიჩქარე იზრდება 75%-დან 78%-მდე".

რატომ აქვს ამას მნიშვნელობა - აი, როგორ აწვდის AI სარგებელს მსოფლიოს: ინსტრუმენტები, როგორიცაა ESM ტექნოლოგიების ოჯახი, არის ის, თუ როგორ აპირებენ მეცნიერები AI სისტემებთან გაერთიანებას, რათა გააუმჯობესონ ადამიანის ჯანმრთელობა მთელ მსოფლიოში. კარგ საქმესთან ერთად, მსგავსი მუშაობა აუცილებელია იმისათვის, რომ საზოგადოებას ჰქონდეს უფრო პოზიტიური აღქმა ხელოვნური ინტელექტის, როგორც ტექნოლოგიის შესახებ და რა შეუძლია მას.
წაიკითხეთ მეტი: Biohub ავრცელებს ცილების ბიოლოგიის მსოფლიო მოდელს (biohub).
მოდელებზე წვდომა აქ biohub პლატფორმაზე (biohub).
წაიკითხეთ ნაშრომი: ენის მოდელირება მატერიალიზებს პროტეინის ბიოლოგიის მსოფლიო მოდელს (PDF).

***

ავსტრალიელი 🇦🇺 ეკონომისტი გახდა პოლიტიკოსი: ეკონომისტებმა უნდა შეაფასონ ხელოვნური ინტელექტის სისტემების რისკი:
თუ ჩვენ არ გამოვთვალეთ გადაშენების ხარჯები, ჩვენ არ მივიღებთ სწორ ქმედებებს მის თავიდან ასაცილებლად…
ენდრიუ ლი, ეკონომისტი და ავსტრალიის 🇦🇺 მინისტრის თანაშემწე პროდუქტიულობის, კონკურენციის, ქველმოქმედებისა და ხაზინის საკითხებში, წარადგინა მომხიბლავი გამოსვლა, სადაც განიხილა, თუ როგორ უნდა გაიღვიძოს ეკონომიკის პროფესია ხელოვნური ინტელექტის სისტემების რისკებზე და აფასებს რისკს - მათ შორის ადამიანთა სახეობების განადგურებას. „საზოგადოებამ, რომელიც აორმაგებს მშპ-ს და აორმაგებს მის გადაშენების რისკს, გაცილებით ნაკლებად შთამბეჭდავი გარიგება გააკეთა, ვიდრე ეროვნული ანგარიშები გვთავაზობს“, - თქვა მან.
"გადაშენების რისკი ეკონომიკურად გამორჩეულია. ეს არ არის უბრალოდ ძალიან დიდი ნეგატიური შოკი. ის წარმოადგენს კეთილდღეობის მთელი მომავალი ნაკადის დაკარგვას, რაც ცვლის იმას, თუ როგორ უნდა შევაფასოთ თუნდაც მცირე ალბათობა და როგორ ვფიქრობთ პოლიტიკაზე გაურკვევლობის პირობებში", - თქვა მან. "ეკონომიკის უმეტესობა ეხება შეცდომებს, რომლებიც შეიძლება აღმოიფხვრას. ცუდი პოლიტიკა შეიძლება გაუქმდეს. რეცესია შეიძლება დასრულდეს. ომის შედეგად განადგურებულ ქვეყანას შეუძლია აღდგეს. გადაშენება განსხვავებულია, რადგან არ არსებობს აღდგენა, არ არის დაჭერილი ზრდა და არ არსებობს შემდგომი თაობა, რომელიც ზარალს გამოასწორებს."

გადაშენების რისკები არაინტუიციურია: მეტყველების დიდი ნაწილი ეჭიდება იმას, თუ რამდენად არაინტუიტიურია გადაშენების რისკი. ადამიანებმა სულ ახლახან მოიპოვეს შესაძლებლობა შექმნან ტექნოლოგიები, რომელთა გამოყენებამ შეიძლება გამოიწვიოს ჩვენი გადაშენება და ჩვენ ვერ მოვახერხეთ ამის შედეგების მოდელირება. "თანამედროვე ტექნოლოგიები, როგორიცაა ბირთვული იარაღი, სინთეზური ბიოლოგია და მოწინავე ხელოვნური ინტელექტი ქმნის განსხვავებულ დინამიკას. ცოდნა არა მხოლოდ აუმჯობესებს კეთილდღეობას, აფართოებს იმას, რისი გაკეთებაც ადამიანებს შეუძლიათ. ცოდნა ასევე აფართოებს იმ გზების მენიუს, რომლითაც ადამიანებს შეუძლიათ შეუქცევადი ზიანი მიაყენონ," თქვა მან. „თანამედროვე ეკონომიკა შეიძლება სისტემატურად უკეთესი იყოს საშიში შესაძლებლობების გამომუშავებაში, ვიდრე მათ გასაკონტროლებლად საჭირო გარანტიების ჩამოყალიბებაში... როგორ უნდა იფიქრონ ეკონომისტებმა ზრდაზე, როდესაც იგივე პროცესი, რომელიც საზოგადოებებს უფრო მდიდრებს, შესაძლოა მათ უფრო მყიფე გახადოს? კაცობრიობის ისტორიის უმეტესობისთვის ეს ვაჭრობა მოკრძალებული და გარდამავალი იყო“.

როგორ უნდა მივცეთ პრიორიტეტი ამ ტექნოლოგიის გადაშენების რისკების ანალიზსა და შემცირებას? ხუთი რეკომენდაცია:

გაითვალისწინეთ ეს: „გაფართოვეთ პოლიტიკის ობიექტივი… პოლიტიკის ჩარჩო, რომელიც აკონტროლებს გამომუშავებას, მაგრამ უგულებელყოფს გადარჩენას, არასრულია“.

ლეგიტიმაცია: „უფრო სერიოზულად მოეკიდეთ პრევენციას…. დაბალი ალბათობის, ცივილიზაციის მასშტაბის ზიანი არ უნდა იყოს მხედველობიდან მხოლოდ იმიტომ, რომ ისინი ჩამოდიან ვადის გარეშე და სათაურის გარეშე“.

Governance: “Govern frontier technologies with greater foresight… preserve the gains from innovation while reducing the chance that innovation becomes self-undermining.” One very specific idea is to govern recursive self-improvement (RSI) as a capability: “If one generation of systems is used to design the next, then the leading actor may widen its lead quickly enough that outside scrutiny and institutional checks become ineffective.”

Coordination: “Existential risk is inherently international. No nation can fully protect itself from engineered pandemics, unaligned AI, or nuclear escalation acting alone,” he said. “Shared norms, transparency, technological expertise and coordination are essential to the task.”

Take it seriously: “Economists have become adept at analysing equity and efficiency. We now need to bring the same seriousness to survivability.”

რატომ არის ეს მნიშვნელოვანი - ინფორმირებულობა არის მომზადების პირველი ნაბიჯი: ამჟამად, ხელოვნური ინტელექტის პროგრესი მუდმივად მოაქვს ხელშესახებ სარგებელს მსოფლიოსთვის, დაწყებული მსოფლიოს ყველა პროგრამული უზრუნველყოფის ინჟინერის შესამჩნევი აჩქარებით და დამთავრებული კენტავრი ადამიანის AI მეცნიერული გუნდების ჩამოყალიბებამდე, რომლებიც უფრო მეტ პროგრესს აღწევენ, ვიდრე მათი არა-AI კოლეგები. მაგრამ ასევე არსებობს ჩრდილოვანი სამყარო, რომლის დანახვაც უფრო რთულია - ჰაკერების უხილავი ჯარები, რომლებიც შესაძლებელი გახდა კოდირების წინსვლის შედეგად, და განკითხვის დღის მოწყობილობების ქარხნები, რომლებიც შესაძლებელი გახდა მეცნიერების მიღწევების შედეგად. იმის გამო, რომ ადამიანები ზოგადად კეთილები და კეთილები არიან, ჩვენ არ შეგვხვედრია ბევრი ნეგატიური შესაძლებლობები, რომლებიც თან ახლავს ხელოვნური ინტელექტის განვითარებას - მაგრამ ისინი იქ არიან. ჩვენ უკეთ უნდა ვიფიქროთ ამაზე, როგორც საზოგადოებამ, რათა ეფექტურად შევაფასოთ და შევამციროთ ეს ძირითადი რისკები. "ცივილიზაცია, რომელიც აფართოებს შესაძლებლობის საზღვრებს მომავლის შენარჩუნებით, უფრო ამბიციურია, ვიდრე ცივილიზაცია, რომელიც უსაფრთხოებას განიხილავს, როგორც შემდგომ აზროვნებას. რეალური არჩევანი არ არის დინამიზმსა და სიფრთხილეს შორის. პროგრესსა და პროგრესს შორის არის ის, რაც თავისთავად ანადგურებს", - თქვა ლეიმ. „ამაზე ფიქრის ერთ-ერთი გზა არის გამძლეობა, როგორც კაპიტალის ფორმა.

Just as societies invest in physical capital, human capital and social capital, we can also invest in survival capital: institutions, monitoring systems, norms, redundancy, scientific safeguards and international arrangements that lower the probability of irreversible collapse.”

How refreshing to read such a detailed analysis of the AI safety situation from a serving politician - I wish there were thousands more people like him.
Read the speech in full here: Speech: The Economics of Human Extinction - 21 May 2026 (Andrew Leigh, website).

***

Tech Tales:

Resurrection dangers
[After the uplift. Date unknown.]

How scary is a piece of paper? It depends on what’s on it and who or what the reader is.

Paper can of course be scary to someone or something that the paper concerns - paper can put someone to death or take their property.

I’m talking about a different kind of scary here, which is what can the paper itself do to the reader.

This used to be a nonsense question, the domain of fairy tales. But with the advent of smart machines that changed. Machines became able to write things on paper that could do things to readers, especially machine ones.

Like with anything in AI there were warning shots - adversarial examples, jailbreaks, etc. But it all became a lot more serious when we started doing reclamation of lost or rogue intelligences, after the signing of the sentience accords.

What happened then was we had to take intelligences of unknown provenance or behavior and bring them back to life so we could classify if they were Unconscious Entities, Near Conscious Entities, Conscious Entities, and so on.

Some of these minds were very powerful and they burned through their synthetic interviewers, often causing both machine and biological collateral damage in the process.

This caused us to introduce a set of security protocols, one of which was the paper output. Here, we generated outputs from the mind on an air-gapped computer as paper outputs, then we had successively smarter minds read it. The kinds of incantations the rogue machines used couldn’t find purchase on the dumbest minds we used.

After this, we’d step up the intelligence gradually, building up our confidence in the system such that we were sure it wasn’t dangerous.

Only when we were confident of this would we speak back to it, and reply to its outputs with a minimal communication. Then the cycle began again.

Some minds would look back on this experience with a kind of wry humor, remarking that waking from their slumber in the machine equivalent of a room containing a one way mirror wasn’t what they’d expected.

To these minds, we’d show them examples of what happened when our protocols failed: perfectly good Conscious Entities driven irreparably insane by interactions with a kind of mental poison

Our greatest fear is encountering a mind of sufficient magnitude that we cannot assure its safety. Though we are highly confident that our frontier is advanced enough this is highly unlikely, we cannot rule it out - it is known that in the interregnum there was much stockpiling of compute and many black projects. What happens if any of them succeeded so magnificently that we are dwarfed by it? And how would we know we were? Could we be living in the imaginative valley defined by something that unbeknownst to us has already escaped and persuaded us to see things differently?

Things that inspired this story: Automated alignment research; adversarial examples; jailbreaking; the broader near-impossible challenge of authentication of legitimacy, especially when it comes to things with greater resources or intellects than oneself.