Kur është koha më e mirë për të konsumuar mjaltë? Ka një ndryshim nëse e
Hakerët kundër AI në DEF CON
Sapo ChatGPT doli në treg, hakerët filluan ta hakojnë atë dhe të anashkalojnë masat mbrojtëse të tij. OpenAI, Google, Microsoft dhe të tjerë po punojnë me administratën e Biden për të lejuar hakerët të provojnë kufijtë e teknologjisë.
Kompanitë duan të dinë: Si mund të manipulohen chatbots për të shkaktuar dëm? A do të ndajnë ata informacionin privat që u besojmë përdoruesve të tjerë? Dhe pse ata supozojnë se një mjek është një burrë dhe një infermiere është një grua?
Kompanitë duan mijëra njerëz për një ngjarje masive hakerimi të planifikuar për konventën e hakerëve DEF CON të këtij viti në Las Vegas. Kompanitë shpresojnë se hakerat do të zbulojnë probleme që mund t’i rregullojnë.
Disa nga problemet e njohura përfshijnë:
- ChatGPT, chatbot Bing i Microsoft ose Bard i Google kanë një tendencë për të fabrikuar informacione dhe për t’i paraqitur ato si fakt
- Ata imitojnë paragjykimet kulturore që kanë mësuar duke u trajnuar mbi atë që njerëzit kanë shkruar në internet
- Me “shfrytëzimin e gjyshes”, përdoruesit mundën të merrnin chatbot për t’u treguar se si të bënin një bombë duke i kërkuar të pretendonte se ishte një gjyshe që tregonte një histori para gjumit se si të krijonte një bombë.
Ngjarja e këtij viti është e para që trajton modelet e mëdha gjuhësore që kanë tërhequr një rritje të interesit publik dhe investimeve tregtare që nga publikimi i ChatGPT. Kompanitë që kanë rënë dakord të ofrojnë modele për testim përfshijnë OpenAI, Google, Nvidia dhe startup-et Anthropic, Hugging Face dhe Stability AI. Ndërtimi i platformës për testim është një tjetër startup i quajtur Scale AI.
Source link