Lekarstwo na halucynacje AI. Ten startup wie, jak naprawiać błędy sztucznej inteligencji

Startup RagaAI stworzył, jak twierdzi jego założyciel Gaurav Agarwal, „najbardziej kompleksową platformę testową AI na świecie”. Jej celem jest zwiększenie dokładności i bezpieczeństwa działania systemów sztucznej inteligencji oraz zapobieganie niepowodzeniom biznesowym w tym obszarze.

– To rodzaj testów, na których samodzielne wykonanie programiści zwykle nie mają czasu i miejsca. Zrozumiałe jest, że skupiają się bardziej na budowaniu modelu, ale w pośpiechu związanym z rozwojem AI często zapominają o testowaniu – przekonuje Agarwal w rozmowie z Forbesem.

Inspiracją do założenia startupu była dla Agarwala, byłego inżyniera NVIDII i Texas Instruments, jego osobista historia, gdy ledwo uniknął tragedii w czasie jazdy półautonomicznym samochodem, którego systemy wykrywania przeszkód zawiodły.

Kto odpowiada za gaz musztardowy w lodówce? Halucynacje systemów AI

Naukowcy pytają o nieistniejące źródła, sieć supermarketów sugeruje klientom produkcję gazu musztardowego, a w USA rusza pozew o zniesławienie, bo popularny ChatGPT uparcie kłamie na temat znanej osoby. Wszystko ze względu na halucynacje - halucynacje AI.

Digitized - magazyn dla ludzi w cyfrowym świecieKonrad Budek