Lekarstwo na halucynacje AI. Ten startup wie, jak naprawiać błędy sztucznej inteligencji

Startup RagaAI stworzył, jak twierdzi jego założyciel Gaurav Agarwal, „najbardziej kompleksową platformę testową AI na świecie”. Jej celem jest zwiększenie dokładności i bezpieczeństwa działania systemów sztucznej inteligencji oraz zapobieganie niepowodzeniom biznesowym w tym obszarze.

– To rodzaj testów, na których samodzielne wykonanie programiści zwykle nie mają czasu i miejsca. Zrozumiałe jest, że skupiają się bardziej na budowaniu modelu, ale w pośpiechu związanym z rozwojem AI często zapominają o testowaniu – przekonuje Agarwal w rozmowie z Forbesem.

Inspiracją do założenia startupu była dla Agarwala, byłego inżyniera NVIDII i Texas Instruments, jego osobista historia, gdy ledwo uniknął tragedii w czasie jazdy półautonomicznym samochodem, którego systemy wykrywania przeszkód zawiodły.