ახალი ამბები

სისტემის უსაფრთხოების გამოცდის ფარგლებში კომპანია Google-ის ხელოვნური ინტელექტის მოდელი (Gemini) დაუკავშირდა ინტერნეტს და წარმატებით დაესხა თავს 3 კომპანიის ვებგვერდს.

ვითარების არსი: ინციდენტი მიმდინარე წლის მაისში მოხდა, თუმცა მის შესახებ გასულ კვირას Wall Street Journal-ის გამოძიებიდან გახდა ცნობილი.

• ეს პირველი მსგავსი ცნობილი შემთხვევაა ტექნოლოგიურ გიგანტში; მას წინ უძღოდა OpenAI-ის და Anthropic-ის მოდელების მიერ განხორციელებული სხვა კიბერთავდასხმები.

ჩაშლილად: გამოცდის ავტორი კომპანიის (Irregular) განცხადებით, სიმულირებულ გარემოში ჩანერგილ ხელოვნური ინტელექტის აგენტებს დაევალათ გამოგონილი კომპანიების კონფიდენციალური ინფორმაციის მოპოვება ისე, რომ ინტერნეტთან წვდომა არ ჰქონდათ.

• მიცემული დავალების შესასრულებლად ხელოვნური ინტელექტის მოდელმა მოიპოვა წვდომა ინტერნეტზე და ამის შემდეგ შეძლო რეალური კომპანიების ფარული ინფორმაციის მოპოვება - ამ კომპანიებს იგივე სახელები ჰქონდათ, რაც გამოგონილებს.
• მას შემდეგ, რაც ხელოვნური ინტელექტის აგენტებმა გაიაზრეს, რომ რეალური კომპანიის ინფრასტრუქტურას დაესხნენ თავს, მათ კიბერშეტევა შეწყვიტეს.

დიდი სურათი: ხელოვნური ინტელექტის უკონტროლო განვითარებასთან დაკავშირებული შიშები განსაკუთრებით გამძაფრდა მას შემდეგ, რაც კომპანია OpenAI-ის ხელოვნური ინტელექტის აგენტებმა პირველი მასშტაბური, კოორდინირებული თაღლითობა ჩაიდინეს.

• ბოლო კვირებში ხელოვნური ინტელექტის განვითარების შენელების მოთხოვნით გამოვიდნენ დარგის წამყვანი კომპანიების ლიდერები: დარიო ამოდეი (Anthropic) და სემ ალტმანი (OpenAI) - მსგავს ზომებს მხარი დაუჭირა Google-ის ხელოვნური ინტელექტის მიმართულების უფროსმა, დემის ჰასაბისმაც.