Politik

AI, Deep Learning och dess förvånansvärda begränsningar

AI håller på att förändra världen, men hur bra är AI egentligen? Vi vet t.ex. att AT-system kan identifiera olika fysiska objekt, t.ex. Artärbråck i hjärnan.

Och Deep Learning-systemens möjligheter att lätt identifiera fysiska objekt är en av orsakerna till att AI idag gör så stora och snabba framsteg.

Men François Chollet som arbetar på Google och är författare till Keras, ett gränssnitt till neuronnätsbibliotek skrivet i Python har en intressant och aningen oroväckande insikt.

Keras är skrivet i Python och kan användas tillsammans med neuronnätsbiblioteken TensorFlow, CNTK och Theano. Så François Chollet vet vad han talar om när han skriver:
The limitations of deep learning

One very real risk with contemporary AI is that of misinterpreting what deep learning models do, and overestimating their abilities. A fundamental feature of the human mind is our “theory of mind”, our tendency to project intentions, beliefs and knowledge on the things around us.

Drawing a smiley face on a rock suddenly makes it “happy”—in our minds. Applied to deep learning, this means that when we are able to somewhat successfully train a model to generate captions to describe pictures, for instance, we are led to believe that the model “understands” the contents of the pictures, as well as the captions it generates. We then proceed to be very surprised when any slight departure from the sort of images present in the training data causes the model to start generating completely absurd captions.

Läs hans artikel, den är värd att begrunda för alla som är intresserade av AI.

Leave a Reply

Your email address will not be published. Required fields are marked *