Politik

Hur datamäklarna påverkar ditt liv: Frank Pasquales intressanta bok The Black Box Society The Secret Algorithms That Control Money and Information

Frank Pasquale är juridikprofessor vid University of Maryland med ett intresse i IT-teknologi och hur den påverkar våra dagliga liv. Det handlar inte bara om de algoritmer som NSA använder för att besluta om vem som skall massavlyssnas; som CIA använder för att besluta vilka människor man ska avrättas med drönare. Det finns också civila datamäklare som Acxiom och BlueKai som bygger använder algoritmer och data för att bygga upp profiler över oss alla. Profiler som sen används av andra oräkneliga företag för allt från marknadsföring till anställningsbeslut och liv och beslut inom sjukvården, eller om du ska få ditt bostadslån eller om polisen och ekobrottsmyndigheten ska intressera sig för dig. Eller om Migrationsverket kommer att låta dig stanna.

David Auerback recenserar Frank Pasquales bok: The Code We Can’t Control. Frank Pasquale’s new book highlights the dangers of “runaway data” and “black box algorithms.”

We’ve heard a lot about the NSA and other federal agencies monitoring and profiling citizens, but private “big data” companies—from Google and Facebook to shadowy “data brokers” like Acxiom and BlueKai—are engaged in equal if not greater amounts of data collection. Their goal is chiefly “microtargeting,” knowing enough about users so that ads can be customized for tiny segments like “soccer moms with two kids who like Kim Kardashian” or “aging, cynical ex-computer programmers.”

Some of these categories are dicey enough that you wouldn’t want to be a part of them. Pasquale writes that some third-party data-broker microtargeting lists include “probably bipolar,” “daughter killed in car crash,” “rape victim,” and “gullible elderly.” There are no restrictions on marketers assembling and distributing such lists, nor any oversight, leading to what Pasquale terms “runaway data.” With such lists circulating among marketers, credit bureaus, hiring firms, and health care companies, these categories—which cross the line into racial or gender classification as well—easily slip from marketing tools into reputation indicators.

Idag handlar allt om Big Data och allt mer sofistikerade algoritmer som används av företag för att fatta beslut som tidigare fattades av människor beväpnade med pappersrapporter. Och algoritmerna blir allt med svårförståeliga och ogenomskinlig.

Problemet är att utvecklingen skenar iväg så snart att de flesta av oss inte har en aning om att utvecklingen på IT-området inte enbart är en sörgårdsidyll. Utan också har en baksida som vi håller på att tappa greppet om.

Det här är en bra bok, skriven av en seriös författare.
Och det faktum att boken är utgiven på Harvard University Press visar att det här verkligen är en seriös bok.

Läs och begrunda.

3 thoughts on “Hur datamäklarna påverkar ditt liv: Frank Pasquales intressanta bok The Black Box Society The Secret Algorithms That Control Money and Information

  1. Marcin

    Rent teoretiskt.
    Om samma algoritmer kunde bekämpa korruption och tillsätta de mest lämpliga på de viktigaste posterna. – Fast någon måste ju alltid skriva dessa algoritmer och…

  2. Marcin

    Blir inte allt effektivare, bättre och genererar större avkastning? Samtidigt, om man kunde veta statusen på alla ens celler, skulle man inte vilja det då?

    1. Lennart

      Marcin: Men vill du samtidigt att anonyma algoritmer klassificerar dig som otillräcklig för det jobb du just sökt eller som en fara för rikets säkerhet? Utan att du själv får veta något om det?

Comments are closed.