Ryska forskare tvivlar på att artificiell intelligens går att lita på utan villkor

Ett mycket viktigt ämne relaterat till artificiell intelligensteknologi diskuterades vid det sista presidiet för den ryska vetenskapsakademin. Så under diskussionen försökte forskare förstå hur mycket du kan lita på artificiell intelligens (AI) och var går gränsen efter vilken en person måste fatta ett beslut på egen hand.

Tro det eller ej artificiell intelligens

Så, enligt presidenten för den ryska vetenskapsakademin A. Sergeeva, AI är en så kallad "black box" som inte ens dess skapare själva förstår helt hur det fungerar. Och så uppstår en mycket logisk fråga: Är det möjligt att lita på slutsatserna från AI om vi inte kan spåra kedjan av slutsatser som denna "maskin" gör?

Faktum är att artificiell intelligens redan gör ett ganska stort antal operationer bättre och snabbare än människor.

Och det kan mycket väl vara lockande att i princip överge vetenskapen, eftersom en specialist med genomsnittlig kompetens kan ställa vissa uppgifter och läsa svar från AI.

Men bara i fallet med fullständigt och urskillningslöst förtroende för AI-lösningar kan du få en mycket förvrängd bild, vilket kan bli ganska dyrt.

Saken är att en person är för benägen att lita på teknik, men med artificiell intelligens är allt mycket mer komplicerat. Saken är den att mänskligheten fortfarande inte helt kan förklara hur den mänskliga hjärnan fungerar.

Och på samma sätt finns det ingen förståelse för hur AI fungerar, som är byggd i analogi med den mänskliga hjärnan. Faktum är att neurala nätverk är baserade på en ganska enkel ekvation av en neuron.

Men bara i fallet när till exempel 600 miljarder sådana komponenter är involverade i arbetet på en gång, kommer absolut ingen att säga med säkerhet vilka anslutningar som bildas i det neurala nätverket.

Dessutom noterade forskarna att när neurala nätverk utvecklas, upptäcks fler och fler nackdelar. När allt kommer omkring, i början lär AI sig av miljontals olika exempel.

Men ofta, även med en liten avvikelse från parametrarna "lärda" under träning, börjar systemet ge felaktiga resultat.

Så ett ganska slående exempel är ett neuralt nätverk skapat av IBM, målmedvetet skapat för medicinska behov. Så det visade sig att IBM AI ställer diagnoser på nivån av en ganska genomsnittlig läkare. Detta innebär att även om AI-teknologier tillåter att skapa smarta system, är de långt ifrån perfekta.

Och för att avsluta diskussionen kom forskarna till slutsatsen att, med tanke på den ständigt växande trenden i utvecklingen och användningen av artificiell intelligens, är det helt enkelt nödvändigt att skapa en viss analog till GOST, vilket gör det möjligt att fullt ut använda AI först efter att systemet har klarat en hel rad kontroller, och forskare är övertygade om att AI inte kommer att utföra fel.

Skriv i kommentarerna hur du personligen tycker om användningen av AI i vardagen. Om du gillade materialet, betygsätt det och glöm inte att prenumerera på kanalen. Tack för din uppmärksamhet!