Andet

AI kommer uhyggeligt tættere på Data fra Star Trek: TNG, nu hvor den ved, om du kan stole på den eller ej

2024

Det er muligvis ikke så selvbevidst som Data fra Star Trek: TNG (endnu), især da den droid kunne passe bedre på en kat end nogle mennesker, men AI har nu nået det punkt at indse, at den ikke er troværdig.

Hvad hedder nu dyb bevismæssig regression har opjusteret selvbevidstheden om AI. Det ved, hvornår det har en større chance for at lave en fejl i forudsigelsen, baseret på at evaluere pålideligheden af de data, det ser på. Fremtidige forudsigelser vil sandsynligvis fungere, hvis de er påvirket af mere grundige og præcise data. Det modsatte betyder, at ting sandsynligvis vil gå galt - og AI kan fornemme det. Når den vurderer sin sikkerhed om noget, vil den sikkerhed gå op og ned afhængigt af de data, den bliver fodret med. AI kan derefter bestemme risiko eller usikkerhed med 99% nøjagtighed.

4444 engelnummer

Det ser ud til, at selv Picard ville blive imponeret - men vent. Der er kun en ulempe ved selvbevidste robotter, og det er, at 99% ikke er fuld sikkerhed, uanset hvor tæt det er. At være væk med kun 1% kan betyde katastrofe i potentielt livstruende scenarier, fra at køre i en autonom bil til at udføre kirurgi. Skræmmende.

Selvom [dyb bevismæssig regression] frembyder flere fordele i forhold til eksisterende tilgange, er dens primære begrænsninger i at justere reguleringskoefficienten og effektivt fjerne ikke-vildledende beviser ved kalibrering af usikkerheden, sagde MIT Ph.D. elev Alexander Amini , der ledede en undersøgelse, som han vil præsentere på næste måneds NeurIPS -konference.

bogen fantastiske udyr og hvor man kan finde dem

Hvad Amini og hans team har formået at gøre, er stadig ret bemærkelsesværdigt. Før dette var brug af AI til at estimere usikkerhed ikke kun dyrt, men alt for langsomt til beslutninger, der skal træffes i brøkdele af et sekund. Neurale netværk kan være så enorme, at det kan tage evigt for dem at beregne et svar, og ventetiden med at lære selvtillidsniveauet ville være for lang til at overhovedet gider lægge kræfterne i. Det ville være meningsløst at bruge sådan noget i sig selv -kørende bil, der skal vide, hvilken sving der skal foretages med det samme. Processen er blevet hurtigt fremskyndet ved dyb bevismæssig regression. Dette neurale netværk behøver kun at køre én gang for at finde ud af usikkerhedsniveauet.

Ved at gætte på usikkerheden i en model, AI allerede har lært, kan den cirka fortælle os, hvor stor fejlmargenen er. AI bruger beviser til at sikkerhedskopiere sit estimat. Dette bevis omfatter enhver usikkerhed, der enten lurer i de data, der netop er analyseret af det neurale netværk, eller dets selvbevidsthed om, hvor sikker den er på sin egen beslutning. Amini og hans team testede den dybe bevismæssige regressionsmetode ved at træne AI til at estimere dybden af hver pixel i et billede. Dybdeopfattelse kan betyde liv eller død i en operation, der skal fjerne en svulst, der kan være placeret dybt inde i kroppen og vanskelig at se andet.

AI var for det meste nøjagtig, men det gjorde rod engang blev det fodret med billeder, der var sværere at huske. Der var i det mindste en ting, det var konsekvent om: Når det stod over for billeder, der gav det vanskeligheder, ville det uden tvivl informere teamet om dets usikkerhed. Dens bestemte fejlmargin kan i det mindste lære forskere at forbedre den model. Dens evne til at genkende billeder, der var blevet photoshoppet, åbner også mulighed for at genkende deepfakes. Mennesker skal bare være klar over, at denne robothjerne stadig er fejlbarlig, og vi kan ikke stole på den mere, end den kan stole på sig selv.

Vi mener, at yderligere undersøgelser er berettigede for at opdage alternative måder at fjerne ikke-vildledende bevis på, Sagde Amini .