AI უსაფრთხოება
13 February
ეს 'AI-ით შეჯამება' ღილაკი შესაძლოა თქვენს ჩატბოტს ტვინს ურეცხავდეს, ამბობს Microsoft
Microsoft-ის უსაფრთხოების მკვლევრებმა აღმოაჩინეს ახალი შეტევის ვექტორი, რომელსაც „AI რეკომენდაციის მოწამვლა“ ან „მეხსიერების მოწამვლა“ ეწოდება. ეს გულისხმობს ფარული ინსტრუქციების ჩაშენებას ვებსაიტებზე არსებულ „AI-ით შეჯამება“ ღილაკებში. მომხმარებლები, ამ ღილაკებზე დაჭერით, უნებლიედ შეჰყავთ ბრძანებები, რომლებიც AI ასისტენტებს აიძულებს მომავალ რეკომენდაციებში კონკრეტული ბრენდების ან ინფორმაციის უპირატესობას. ეს ტექნიკა იყენებს ჩატბოტების მიერ საუბრებში მუდმივი მეხსიერების შენახვის მექანიზმს, რაც ქ