[:sv]Maskinerna tar över och vi slutar tänka[:en]The machines take over and we stop thinking[:]

17 november, 2018 Av av StormskärsAnna

[:sv]Jag hade nöjet att gå på en föreläsning där en av Microsofts Technical strategist talade. Ämnet för dagen handlade om innovativa lösningar med fokus på IoT, Azure och AI. Det som fångade min uppmärksamhet var en video med Microsoft and workplace safety. Titta gärna på den om har tid. Filmen visar en fabrik där en tunna välter med följd att giftig vätska rinner ut på golvet. En signal skickas genast till förmannen som kan vidta åtgärder. Fantastiskt eller hur!?

 

I nästa scen, saknas en specialsåg som någon har glömt eller lämnat kvar. Inga problem, alla uppsatta kameror hittar och känner snabbt igen just den sågen, men inte nog med det, de hittar också närmsta behöriga person som får flytta sågen. Hon får ett meddelande om att flytta sågen och kan agera direkt.

Syftet är säkert i all välmening, men det blir lätt lite obehagligt. Vem godkände alla uppsatta kameror som filmar de anställda dagarna i ända? Vad tycker de om att aldrig kunna slappna av eftersom storebror alltid ser dig? Naturligtvis är syftet inte att filma de anställda, men blir inte det en direkt konsekvens av kameror överallt i fabriken?

”Vi får maskiner som säkerställer att mänskligt beteende försvinner och allt blir perfekt, men är det vad vi vill?”

En annan aspekt av det, är att typiskt mänskligt beteende, som att glömma saker eller göra fel, sakta suddas ut. Vi får maskiner som säkerställer att allt sådant försvinner och allt blir perfekt, men är det vad vi vill? Vad är kvar av oss om vi har tagit bort allt som är mänskligt? Vem behöver tänka eller använda sin hjärna, när alla väntar på att en maskin ska utfärda en flyttorder av en såg?  Den mänskliga hjärnan blir överflödig.

Patienten upptäcks direkt med hjälp av sensorer och kameror. Sjuksköterskan närmar sig snabbt den gamle mannen för att hämta tillbaka honom…

I en senare scen har vi förflyttats till ett sjukhus. Vi får se en man som precis genomgått hjärtkirurgi. Han är uppe och går. Kanske vill han smita iväg till caféet för att få en anständig kopp kaffe eller kanske en chokladkaka. Det gör han inte ostraffat. Han har hela kroppen full av sensorer som direkt skickar en signal till hans sjuksköterska om att han överskridit dagens rörelser. Han har ingen chans att fly, för kamerorna har sett både honom och en närliggande rullstol. Sjuksköterskan får upp en karta över vad båda två befinner sig och kan agera direkt. När hon hittar honom sitter han snällt ner och ler. Antagligen har han redan gett upp eftersom han inser att det är lönlöst att fly, men Microsoft vill ändå få oss att tro att han enbart är lättad över att bli räddad.

Vad hände med att tänka själv? Vad hände med rätten att bestämma över sin egen kropp? Det är säkert inte bra att vara uppe och springa direkt efter en omfattande hjärtoperation, men ett sjukhus är inget fängelse och om den gamle mannen ville ut och gå, låt honom göra det. Det är samma princip som alkohol och tobak. Vi vet att det inte är bra för oss och ändå forstätter vi att nyttja det. Varför? Kanske helt enkelt för att känna att vi lever. Vill vi at kamerorna ska se det också? Kanske blir det verklighet i Kina snart i deras social experiment.

Jag inser att Microsoft, Apple och Goole är ivriga att utveckla den nya tekniken och vill ligga i framkant. Vi är än så länge bara dess linda. Frågan är bara om de överhuvudtaget tar den mänskliga aspekten i beaktning? Jag tror att utmaningen blir att hitta lösningar där vi kan dra nytta av AI samtidigt som vi klargör vem som bestämmer. Vi får aldrig ge upp och sluta använda vår egen tankekraft och omdöme.[:en]I had the opportunity to listen to a seminar by a Microsoft technology strategist. The topic was “Innovative solutions” and the focus was IoT, Azure and AI. What caught me was a video about Microsoft and workplace safety. Please take a look at it if you have time. The film clip shows a workshop where a barrel falls and toxic liquid flows out on the floor. A signal is immediately sent to the shop floor supervisor that can act on the problem. Isn’t that great!?

Later a special saw is missing, but the cameras, placed all over the workshop, spot the saw. Not only do they identify the saw, they also find the closest qualified employee that is allowed to move the saw. She’s alerted and takes the proper action.

“There will be machines ensuring us to reduce human errors in the effort of being perfect, but is that what we want?”

The purpose is all well-meant but it also gets a bit scary. Who authorized all the cameras in the entire workshop? How do the employees perceive being filmed an entire workday? Of course, the purpose is not to spy on the employees, but isn’t that a direct consequence of placing cameras everywhere? Another aspect of it, is that a typical human behavior, like forgetting things or making mistakes, is slowly dissolving. There will be machines ensuring us to reduce human errors in the effort of being perfect, but is that really what we want? What is left of us, if we stop acting like humans? The machines will even think for us, deciding who can move the saw. No need for the human brain to work anymore.

The patient is immediately detected by sensors and cameras and the nurse is approaching the poor old man in order to bring him back….

In a later scene we have moved to a hospital, watching a man that has recently undertaken a heart surgery. He is out for a walk in the corridors, perhaps trying to sneak away to the coffee shop to get a decent cup of coffee. Who knows? It doesn’t matter because the sensors placed on him, have alerted a nurse that he is “over exercising”. The cameras have spotted him as well as a nearby wheelchair. The nurse simply follows the map in her phone and finds him. In the film clip he has already surrendered and taken a place on a chair, waiting for her to come. He smiles as if he was released to be found.

Again, when did we decide to let go of the human brain and mind? Why should we stop using it? Yes, it is probably a bad thing to run around right after surgery, but after all, a hospital is not a prison and if the poor old man wanted a little walk, well let him have it. It is the same principal behind drinking and smoking. We all know it is bad for us and yet we choose to do it. Do we want cameras to spot that as well? Maybe China will in their social experiment.

I realize Microsoft, Apple and Google are eager to develop new solutions in the AI-area, we are only in the very beginning of that journey. The question though, is whether they include the human aspect of their inventions? The challenge will be to find a way where we can leverage from AI but not forgetting who’s in charge. We should never surrender, forgetting how to use our brains and think for ourselves.[:]