Mentionsy

☠️ Jak zatruć AI?

Czy można zepsuć AI? Można (gdyby to było złe, to wiadomo co) - i to w zaskakująco prosty sposób. Zobacz, jak zatruwanie danych może wpływać na algorytmy, manipulować opinią publiczną i zmieniać sposób, w jaki postrzegamy świat! Źródło: https://arxiv.org/pdf/2310.13828 #AI #manipulacja #fakenews #datapoisoning #cyberbezpieczeństwo #GPT #shorts

Czy można zepsuć AI? Można, ale czy to takie fajne? No, nie do końca. Jestem Mateusz, bezpiecznie mnie zaobserwować. Data poisoning, bo o tym dziś mowa, to zatruwanie danych treningowych wykorzystywanych do szkolenia modeli językowych. Takie działanie ma na celu umożliwić wpływanie na wyniki wyszukiwania, psuć różne algorytmy, czy nawet finalnie manipulować opinią publiczną. Analogicznie jak w przypadku studni, do której ktoś wlewa truciznę, żeby w efekcie otrucić całą wioskę. Jeśli ...