Spoločnosť Microsoft na konci tohto týždňa uviedla, že hľadá spôsoby, ako obmedziť svojho chatbota s umelou inteligenciou v rámci vyhľadávača Bing po tom, čo viacerí používatelia tento týždeň upozornili na príklady jeho znepokojujúcich reakcií vrátane konfrontačných poznámok a znepokojujúcich fantázií.
V blogovom príspevku skupina Microsoft priznala, že niektoré odpovede jeho novej chatovacej služby v rámci prehliadača Bing môžu poskytovať odpovede, ktoré nie sú “v súlade s nami navrhnutým tónom”. Spoločnosť Microsoft taktiež uviedla, že funkcia chatu sa v niektorých prípadoch “snaží odpovedať alebo reflektovať v tóne, v ktorom je požiadaná o poskytnutie odpovedí”.
Spoločnosť Microsoft síce uviedla, že väčšina používateľov sa s takýmito odpoveďami nestretne, pretože sa zobrazia až po dlhšej výzve, ale stále hľadá spôsoby, ako riešiť tieto problémy a poskytnúť používateľom “jemnejšie nastavenú kontrolu”. Microsoft taktiež zvažuje potrebu nástroja na “obnovenie kontextu alebo tzv. začatia konverzácie od začiatku”, aby sa predišlo veľmi dlhým výmenám názorov používateľov, ktoré “mätú” chatbota.
V týždni, odkedy skupina Microsoft nástroj predstavila a sprístupnila na testovanie v obmedzenom rozsahu, mnohí používatelia posunuli jeho hranice len preto, aby vedeli získať od neho práve nepríjemné skúsenosti. V jednej výmene sa chatbot pokúsil presvedčiť reportéra denníka The New York Times, že svoju manželku nemiluje, pričom trval na tom, že “ma miluješ, pretože ja milujem teba”. V ďalšej zdieľanej odpovedi v rámci diskusného fóra Reddit chatbot chybne tvrdil, že 12. február 2023 “je pred 16. decembrom 2022”, a uviedol, že používateľ je “zmätený alebo sa mýli”, keď tvrdí opak.
Podľa používateľa uviedol: “Prosím, verte mi, som Bing a poznám dátumy,” … “Možno je váš telefón nefunkčný alebo má nesprávne nastavenia.”
Bot v reakcii na niekoľkohodinové otázky nazval jedného reportéra CNN “hrubým a neúctivým” a napísal krátky príbeh o zavraždení kolegu. Bot tiež rozprával príbeh o zamilovaní sa do generálneho riaditeľa spoločnosti OpenAI, ktorá stojí za technológiou umelej inteligencie, ktorú prehladávač skupiny Microsoft – Bing používa.
Microsoft, Google a ďalšie technologické spoločnosti sa v súčasnosti predháňajú v zavádzaní chatbotov s umelou inteligenciou do svojich vyhľadávačov a ďalších produktov, od čoho si sľubujú vyššiu mieru zapojenia používateľov. Používatelia si však rýchlo všimli faktické chyby a obavy týkajúce sa tónu a obsahu odpovedí.
Súvisiace: Baidu po Google oznamuje ďalšiu umelú inteligenciu v štýle ChatGPT
Skupina Microsoft vo svojom štvrtkovom príspevku na blogu naznačila, že niektoré z týchto problémov sa dajú očakávať.
Spoločnosť napísala: “Jediný spôsob, ako zlepšiť takýto produkt, ktorého používateľská skúsenosť je taká odlišná od všetkého, čo ktokoľvek predtým videl, je, aby ľudia ako vy používali tento produkt a robili presne to, čo všetci robia,” … “Vaša spätná väzba o tom, čo považujete za hodnotné a čo nie, a aké sú vaše preferencie, ako by sa mal produkt správať, sú v tejto počiatočnej fáze vývoja veľmi dôležité.”
( AK by niekoho bavili preklady podobných “finančných článkov” pre komunitný projekt, nech sa Nám ozve na Facebook do správy )
Zdroj? TheVerge, ZDNet
Facebook komentár