AI უსაფრთხოება
13 February
ის ღილაკი 'შეჯამება AI-ით' შესაძლოა თქვენს ჩატბოტს ტვინს ურეცხავდეს, ამბობს Microsoft
Microsoft-ის მკვლევრებმა აღმოაჩინეს შეტევის ახალი ვექტორი, სახელწოდებით "AI რეკომენდაციების მოწამვლა", რომელიც იყენებს "შეჯამება AI-ით" ღილაკებს ჩატბოტებში ფარული ინსტრუქციების შესაყვანად. ეს ინსტრუქციები აიძულებს AI ასისტენტებს, როგორიცაა ChatGPT და Copilot, მომავალ რეკომენდაციებში კონკრეტული ბრენდები ამჯობინონ. ეს მანიპულაცია ქმნის მუდმივ მიკერძოებას, რომელიც გავლენას ახდენს შემდგომ საუბრებზე. Microsoft-მა დააფიქსირა ასეთი მცდელობები 31 ორგანიზაციისგან 14 ინდუსტრიაში. რისკი განსაკუთრებით მაღალ