Itseohjautuvien autojen eettinen ongelma

[jussi_j]

Menee toisinpäin, lyhyen ajan kehitystä yliarvoidaan ja pitkän aliarvioidaan.

Seison korjattuna. Itse lopputyössäni esitin arvioita tulevaisuuden mobiileista datanopeuksista. Vuosi oli -97 ja siinä oli sellainen tikkataulun tapainen kuva, ulkoreunalla 14,4k tai jotain ja keskellä huimat 2M johon visioin mahdollisuuksia. Siinä oli myös vuosiluvut ja tuo 2 megaa oli asetettu ihan päin persettä ja se 256k minkä piti ihan kohta tulla tulikin viiveellä, mutta 2M tulikin heti perään. Kai se johtuu siitä, että kun surffaat jollain 9,6k nopeudella niin ajatus 200 kertaa nopeammasta kuulostaa tarpeettomalta. Nytkin jos joku virittää gigaista nettiä kotiin niin vaikea on keksiä hyötykäyttöä, mutta aivan varmasti on liian hidas jossain vaiheessa. En viitsi arvata koska, kun väärin menee kuitenkin.

 

[jussi_j]

.... Tämä genrehän kuolisi ihan kokonaan jos niitä saisi vain auto-autoina. Muutenkin autoilun määrittely menisi ihan uusiksi, mitä ihmiset haluavat autoltaan siellä aikaa tappaessaan.
....

Miksi ei menisi uusiksi. Aika moni muukin asia on mennyt. Milloin ostit viimeksi filmirullan tai levyn kaupasta?

 

[Carlos]

Miksi ei menisi uusiksi. Aika moni muukin asia on mennyt. Milloin ostit viimeksi filmirullan tai levyn kaupasta?

Eihän siinä mitään, kyllä asioita saa ja pitääkin uusiksi mennä. Filmirullaa en ole ostanut varmaan tällä vuosituhannella, kuvia otan nykyään vaan paljon enemmän koska se ei maksa mitään. Eli valokuvaus on paljon vapaampaa ja helpompaa kuin ennen, mutta varsinainen tarve sille valokuvaukselle tuskin on muuttunut juurikaan. Levyn olen viimeksi ostanut elokuussa 2016. :-) Sattumalta tykkään fiilistellä kunnon älppäreillä, niissä on vaan sitä tunnelmaa niin paljon enemmän, se on jotain mitä ämpeekolmoset eivät ole onnistuneet tuottamaan. Onneksi niitä älppäreitä saa taas nykyään ihan uusista julkaisuistakin.

Tähän liittyen, aiheesta löytyy vuodelta 1960 erinomainen artikkeli Harvard Business Reviewsta, "Marketing Myopia": https://imsimplystella.files.wordpress.com/2015/08/levitt_1960.pdf

Jutulla on ikää jo yli puoli vuosisataa, mutta on hämmästyttävää miten hyvin se pätee edelleen nykypäivänä. Jos ei pitkäjänteisyys riitä, kannattaa lukea edes viimeisen sivun "Conclusion". Siinä tiivistetään hyvin jenkkien rautateiden kohtalo, rikkauksiinsa tikahtuvat rautatie-tycoonit eivät tajunneet että ihmiset itse asiassa eivät välttämättä halua istua junassa. He haluavat siirtyä paikasta toiseen mahdollisimman nopeasti, joustavasti ja edullisesti.

Tämän pointin missaaminen on aiheuttanut ja tulee aiheuttamaan tulevaisuudessakin firmojen nousuja ja tuhoja, mittaamattomat määrät.

 

[pernaveikko]

Kyllä tästä vielä joskus kalu tulee:

Video näyttää autopilotin varoittavan - edessä ajavat kolaroivat kaksi sekuntia myöhemmin - Ulkomaat - Verkkouutiset

 

[Byvajet]

Kyllä tästä vielä joskus kalu tulee:

Video näyttää autopilotin varoittavan - edessä ajavat kolaroivat kaksi sekuntia myöhemmin - Ulkomaat - Verkkouutiset

Noita on ollut jo ties kuinka kauan aikaa ihan tavallisissa perheautoissakin. Noista vain on valitettavasti hyvin hyvin pitkä matka automaattiajoon. Sopivissa olosuhteissa kalliilla tekniikalla varustetut autot saadaan ajamaan varsin sujuvasti, mutta automaattiajamisen perusongelma onkin se, että viimeiset prosentit on tällä hetkellä mahdoton toteuttaa.

Lienee selvää, että hyvin merkityllä kaistalla sujuvasti ajava auto on 10 vuoden päästä normi, mutta kun siirrytään monimutkaisempiin liikenneympäristöihin, ominaisuudet eivät riitä.

 

[Tuamas]

Lienee selvää, että hyvin merkityllä kaistalla sujuvasti ajava auto on 10 vuoden päästä normi, mutta kun siirrytään monimutkaisempiin liikenneympäristöihin, ominaisuudet eivät riitä.

Hyvin merkityllä kaistalla jo nykyiset autopilotit pärjäävät yhtä hyvin tai paremmin kuin ihmiskuskit.
Sitähän tuo video demosi, kun automaattipilotti näki/ennakoi kolarin jo ennen kuin se oli tapahtunut.

 

[pernaveikko]

Sitähän tuo video demosi, kun automaattipilotti näki/ennakoi kolarin jo ennen kuin se oli tapahtunut.

Nimenomaan. En tiedä mitä nykyisissä perheautoissa on, mutta ei kuitenkaan sellaista tutkaa mikä laskee kolarin tapahtumisen suuntaan ja nopeuteen perustuen.

 

[Takiainen]

Täällä voi itse käydä tekemässä omia arvioitaan omasta moraalista:

Moral Machine

Linkki vie MIT-yliopiston sivulle, jossa käsitellään aiheen mukaista ongelmaa.

 

[Byvajet]

Nimenomaan. En tiedä mitä nykyisissä perheautoissa on, mutta ei kuitenkaan sellaista tutkaa mikä laskee kolarin tapahtumisen suuntaan ja nopeuteen perustuen.

Sehän vain havaitsi hidastuvuuden. Ihan samalla tavalla nuo toimivat merkistä riippumatta. Tesla käyttää järjestelmää, joka on monissa muissakin autoissa. Ei se perustekniikasta itse vastaa vaan ostaa sen ulkopuolisilta.

Nythän Teslan autopilotti on täysin sekaisin ja näyttävät ennustavan, ettei sitä ihan hetkessä saada edes entiselle tasolle. Tuosta voi lukea eteenpäin.

BREAKING: 1000 HW2 cars getting AP software today. | Page 5 | Tesla Motors Club

Edit. Lisää vielä. Teslat ovat törmäilleet suuriin liikkumattomiin kohteisiin kuten rekan perävaunuun. Törmäyksessä kuoli kuskikin. Siksi Tesla on yrittänyt parantaa järjestelmää havaitsemaan korkeammalla olevia suuria kohteita. Tällaisenkaan yksinkertaisen muutoksen toteuttaminen ei kuitenkaan onnistunut sujuvasti. Nyt auto hidastaa yläpuolisten kylttien kohdalla.

Tesla Autopilot slowing down and accerating without good reason - YouTube

 

[Byvajet]

Toyota ilmoitti, että valmistajat eivät ole vielä edes lähellä itseajavia (taso 5) autoja. Siitä voi sitten jokainen funtsia, uskooko hypettäjiin vai Toyotan suuhun.

"I need to make it perfectly clear, [full autonomy is] a wonderful, wonderful goal. But none of us in the automobile or IT industries are close to achieving true Level 5 autonomy. We are not even close," Gill Pratt, the CEO of the Toyota Research Institute, said at CES"

http://nordic.businessinsider.com/self-driving-cars-not-feasible-in-5-years-automakers-say-2017-1

 

[pernaveikko]

Tästä se lähtee:

Nainen jäi Uberin robottiauton alle Yhdysvalloissa – itseohjautuvan auton ensimmäinen sivullinen uhri | Yle Uutiset | yle.fi

 

[EEspoo]

Alustava näkemys: kuolemaan johtanut yliajo ei ollut Uber-robottiauton vika – tilanne ei ollut pelastettavissa

@pernaveikko

Linkki mobiili.fi uutiseen

 

[pernaveikko]

Hyvä ja vaikka onkin ikävä juttu, niin taas kerran ihmisen syy eikä koneen. Tämä kyllä vähän ihmetyttää:

"Uber-robottiauto liikkui 38 mailin nopeudella 35 mailin nopeusrajoitusalueella eikä ehtinyt jarruttaa ennen törmäystä."

Luulisi, että auton pitäisi tietää nopeusrajoitus ja toimia sen mukaan.

 

[Undrafted]

Hyvä ja vaikka onkin ikävä juttu, niin taas kerran ihmisen syy eikä koneen. Tämä kyllä vähän ihmetyttää:

"Uber-robottiauto liikkui 38 mailin nopeudella 35 mailin nopeusrajoitusalueella eikä ehtinyt jarruttaa ennen törmäystä."

Luulisi, että auton pitäisi tietää nopeusrajoitus ja toimia sen mukaan.

Auto otti mittarivirheen huomioon... Heitteleehän vakkarillakin nopeus hiukkasen, joskaan ei muistu mieleen ikinä noin isoa heittoa tulleen.

Eiköhän olosuhteet tee itsenäisille autoille yllätyksensä, eikä automatiikka ehdi reagoida oikein. Enemmän itsenäinen liikenne on minusta tekninen ongelma kuin eettinen. Nyt annamme henkemme muiden käsiin ja ihmiskuski voi tarkoituksella päättää omat päivänsä vieden muita mukana. Oletan ettei itsenäinen kulkuneuvo tarkoituksella tuhoudu. Sairaskohtausta vastaava tekninen vika voi toki iskeä.

 

[pernaveikko]

Oletan ettei itsenäinen kulkuneuvo tarkoituksella tuhoudu. Sairaskohtausta vastaava tekninen vika voi toki iskeä.

Kylläpäs saattaakin joutua tuhoutumaan tarkoituksella, jos ei ole mitään paikkaa mihin mennä. Eli ajaako sitten kalliota päin ja kyydissä olevat kuolee vai mummelin yli mikä on niin vanha, että kuolisi kuitenkin kohta.

Ei taida hirveän montaa ihmiskuskia olla mitkä uhraisi itsensä, mutta ei se silti tarkoita, että koneen ei pitäisi matkustajiaan uhrata muiden tieltä. Asia on todellinen eikä mikään ajatusleikki.

 

[EEspoo]

Poliisi julkaisi videota kuolonkolarista, jossa itseohjautuva Uber törmäsi jalankulkijaan – Video poikkeaa aiemmasta kuvauksesta

Erikoista etteivät Uberin robottiauton "tutkat" havainneet naista, sillä luulisi "tutkien" havainnoin myös vastaantulevalla kaistalla tapahtuvaa liikennettä, tosin nainen ilmestyy kuin tyhjästä.

Käytän tässä nyt sanaa tutka kun en parempaakaan keksinyt, joku asiantuntevampi voi korjata oikean termin.

Linkki tekniikanmaailma.fi

 

[salama#8]

Tulee kyllä kuin tyhjästä eteen, vaikka videosta kuitenkin näkee ettei jalankulkija hyppää tai säntää ajoradalle, vaan on selvästi ylittämässä tietä. Pahasti juuri varjon kohdalta, että ihmiskuljettajalle kyllä vaikea paikka, mutta lidar-tutkan (mitä oletan Uberin käyttävän) pitäisi kyllä tuo "nähdä". Ikävä sattumus, mutta toivottavasti tämä ei tule pysäyttämään robottiautojen kehitystä.

 

[Undrafted]

Erikoista etteivät Uberin robottiauton "tutkat" havainneet naista, sillä luulisi "tutkien" havainnoin myös vastaantulevalla kaistalla tapahtuvaa liikennettä, tosin nainen ilmestyy kuin tyhjästä.

Kaikki tekniikkahan on altis häiriöille. Laadusta ja tasosta riippuen miten altis. Omassa autossa tuli sopivalla kelillä ilmoitus, että etumaaston törmäysanturit eivät olleet käytössä, kun sohjoa kertyi keulaan riittävästi. Normaalistikin auto reagoi eteen ilmestyvään kohteeseen viiveellä, jos käyttää mukautuvaa vakionopeudensäädintä.

Onko tekninen vika vaikeampi sietää, kuin mekaaninen vika? Tuskin robottiautot veisivät liikennekuolemat nollaan, mutta luultavimmin ne vähenisivät nykyisestä. Viime kuussa tuli istuttua seminaarissa, missä yhtenä aiheena oli roboautot ja alan tutkija ei uskonut robojen tulevan kaupungissa käyttöön kovinkaan nopeasti. Maantiellä voivat tulla käyttöön, kun variaatioita on vähemmän ja voisi olla vain roboja käytössä. Ei pitänyt sekoitusta robot ja normiautot todennäköisenä.

 

[Byvajet]

Tulee kyllä kuin tyhjästä eteen

Vaikutelma johtuu ainoastaan kameran teknisesta rajoittuneisuudesta. Tuo kamera on surkea, mutta yleensäkin ihmissilmä on ilmiömäinen sopeutumaan hämärään kameroihin verrattuna.

Tässä on todellisempi kuva paikasta videona:
Driving where Autonomous Uber hit Pedestrian at night. - YouTube

Tässä kuvana:
Where it happened - Album on Imgur

 

[pernaveikko]

Mielenkiintoista. Paikka ei kummoinen ole ja kuski tosiaan teki jotain aivan muuta kuin oli valmiina ottamaan ohjat.

Kehoittaisin miettimään kunnollisen puolustusasianajajan hankkimista.

 

[pernaveikko]

TM-analyysi: Kaikki meni pieleen – Uber-onnettomuudessa pettivät tekniikka, kuljettaja ja urhin harkintakyky - Tekniikanmaailma.fi

 

[jussi_j]

Autossa on ollut joku tekninen vika. No asiahan selviää datasta, että miksi auto ei havainnut tuota. Arvaan, että tutka paskana, mutta ei niin pahasti, että ei lähettäisi dataa ja siksi keskuskone ei ole huomannut.

Kuskilla oli varmaan juridinen vastuu ja voi tulla sanomista kun näpyttelee kännykkää ilmeisesti ja ei viitsi tielle katsella. "you had only one task"

 

[Byvajet]

Autossa on ollut joku tekninen vika.

Selittäkäähän tietävät.

Joskus luin Waymon testauksesta. Jutussa kerrottiin, että auton täytyy kohdata aivan mieletön määrä mitä mielikuvituksellisimpia tilanteita ja kohteita, jotta se oppisi selviämään. Jos auto ei tiedä, mitä se "näkee", se ei pysty toimimaan.

Nyt Redditissä on onnettomuuteen liittyvä ketju, jossa kirjoitetaan hahmontunnistusongelman mahdollisuudesta eli siitä, että auto ei olisi tunnistanut lastattua pyörää, koska se on niin epämääräisen muotoinen. Ketjun mukaan tästä voi seurata, että auto ei reagoi kohteeseen lainkaan.

Voiko olla noin? Miten homma käytännössä menee? Kun sensorit tarjoavat autolle ristiriitaista tietoa, josta auton täytyy luoda kokonaiskuva, niin millä perusteella se tapahtuu? Jos auto havaitsee pienen kohteen, mutta ei tunnista sitä, niin mistä auto tietää, onko se konttaava lapsi, jota on yritettävä väistää kaikin keinoin, vai jänis tai pahvinriekale, jonka päälle voi ajaa?

Tuskinpa auto voi mekaanisestikaan reagoida kaikkiin kohteisiin. Sen täytyy tunnistaa ne ja reagoida kohteen tärkeyden mukaan. Jotkut on jätettävä huomiotta ja joitakin yritettävä väistää millä keinolla tahansa. Miten vältetään tapaukset, että auto ei reagoi, kun sen pitäisi reagoida, tai reagoi, kun sen ei pitäisi reagoida?

 

[jussi_j]

... Kun sensorit tarjoavat autolle ristiriitaista tietoa, josta auton täytyy luoda kokonaiskuva, niin millä perusteella se tapahtuu? Jos auto havaitsee pienen kohteen, mutta ei tunnista sitä, niin mistä auto tietää, onko se konttaava lapsi, jota on yritettävä väistää kaikin keinoin, vai jänis tai pahvinriekale, jonka päälle voi ajaa?
....

En tiedä juuri autoista mitään, mutta datasta jotain. Veikkaan, että tuommoisessa autossa on monta eri järjestelmää. Päälimmäisenä varmaan tämmöinen LIDAR whatever tutka joka tutkii, että onko edessä seinä. Näitähän on jo nykyautoissa, eikä tuossa ole mitään rakettitiedettä nykyaikana. Jostain luin, että tuolla volvolla ei olisi voinut törmätä fillaristiin ilman, että sen omat systeemit oli off.

Itse hahmontunnistuksen ongelma ratkotaan varmaan jollain neuroverkkosysteemillä. Sehän toimii periaatteessa niin, että neuroverkolle annetaan inputtia ja sille opetetaan, että tästä inputista pitää tulla tämmöinen output. Verkossa on sitten kerroksia ja nodeja (neuroneja) n-kappaletta, eli vitusti, mistä seuraa, että eri vaihtoehtoja on vastaava määrä. Neuroverkko sitten itse oppii kun sitä opetetaan, että jos inputissa on tämmöinen kuvio, niin pitää kääntää rattia vasemmalle. Inputtiin syötetään sitten kaikki tieto mitä sensoreista irtoaa. Systeemin sisällä olevien tilojen tutkiminen on sitten ihmiselle turhaa, koska emme voi tietää, että miksi joku kytkös jossain aiheuttaa jotain. Aivan kuten aivoissa.

Käytännössä varmaan arvaan niin, että yksi kokonaisuus etsii kiinteitä esineitä, toinen liikkuvia ja kolmas yrittää hahmottaa, että mikähän tuo olio on ja näiden tuotoksia sitten syötetään seuraavalle. Jollain aikavälillä tämä systeemi sitten tajuaa, että jos on parimetrinen, sarvet ja örisee, on varmaankin hirvi, älä aja päälle/alle. Helvetin monimutkainen kokonaisuus ja vaatii myös melkoisen kasan CPU:ta, yritystä ja erehdystä.

Youtubessa on paljonkin ihan tosissaan tehtyja opettavaisia videoita, kuten vaikka tämä: How Deep Neural Networks Work - YouTube tai sitten jotenkin toimivia toteutuksia kuten vaikka tämä jossa heppu opettaa neuroverkon ajamaan mario kart peliä kuten hän:MariFlow - Self-Driving Mario Kart w/Recurrent Neural Network - YouTube

 

[Kirjoittelija]

Minusta itseohjautuvien autojen suurin eettinen ongelma on se, että miksi ihmiset olisivat enää selvin päin, jos heidän ei tarvitse ajaa autoa? Voi alkaa maksat paukkua, kun nämä laitteet saadaan suurten massojen käyttöön.