Khalad Photography Blog

LITE VATTEN PÅ MIN AI-KVARN

***

Ursäkta, men en blogg till idag. Har nyss sett kvällens Vetenskapens Värld med tema AI. Jag har redan flera gånger skrivit här på bloggen att jag inte är särskilt imponerad av intelligensen i AI. Många har också redan berättat att det är mängden och variationen av texter programmen läst in som är förklaringen till att chatrobotarna snabbt och bekvämt svarar på vilka frågor som helst, nästan. Jag har naturligtvis också ställt frågor och fått samma intryck. Och som jag uppfattade programmet är det precis så, AI-programmen tar inga beslut som inte förutsetts av programmakarna. Inte bara så, dom svarar generellt med dom "vanligaste" svaren på frågan eller dom vanligaste åsikterna  i litteraturen. Alltså förstärker AI dom redan vanligaste åsikterna. Styrkan i programmen är hanteringen av stora  datamängder och det är väsentligt inom nästan alla sektorer av ett modernt samhälle - bank, försäkring, industri, samhällsplanering, polis (ansiktsidentifiering mm), medicin, forskning och många andra discipliner. AI-programmen förser oss med bättre beslutsunderlag men det är vi människor som kommer ta besluten och ha ansvaret.

Dom specialister som  kom till tals i programmet var inte oroade för att AI skulle "ta över" och förvandla oss till spratteldockor, därtill är människan alldeles för komplex både map känsloregister och breddtänkande. Faran med AI är dom farliga (politiskt, kriminellt, mm) människorna, det vi ju redan idag och ser effekterna av. Mycket av dom mer futuristiska möjligheterna som AI tillskrivits har kommersiell bakgrund.  

*

Nåväl, jag vet att det finns mängder av människor som är av annan åsikt, både vetenskapare och andra. Själv tyckte jag förstås det var trevligt att få lite vatten på min AI-kvarn. Rekommenderar alla som är intresserade av AI att se på programmet. Bilden på den okända flickan valde jag för att hon har alla dom egenskaper en chatrobot aldrig kommer få - nyfikenhet, uppfinningsrikedom, empati och kommer känna allt som en dator inte kommer känna - glädje, ilska, kärlek, sorg.....

*

*

***

2024-01-30 01:17   Måns H

Du är förlåten denna extrablogg!

Du skriver "AI-programmen förser oss med bättre beslutsunderlag men det är vi människor som kommer ta besluten och ha ansvaret."

Jag tror AI redan börjat ta beslut, t ex i självkörande bilar, och att det blir så även i sjukvården (1177 med chatrobot, triagering på akuten) men att det är nån människa som får ta ansvaret då det blir fel beslut.

Svar från Khalad 2024-01-30 10:08

Tack för det Måns! :-) Som jag uppfattat detta med självkörande bilar har programmen ifråga matats med mängder av trafiksituationer och visats hur man kör i varje sådan situation. I varje ögonblick väljer de ur sitt situationsbibliotek hur man kör. Kommer en situation som inte förutsetts blir det fel, ibland med dödsolyckor till följd. På samma sätt uppfattat jag triagering, besluten hur man gör vid olika symptomkombinationer är redan tagna och inmatade, vad programmet gör är att välja vilken av de olika symptomkombinationerna patientens tillstånd mest liknar. Men visst, praktiskt innebär det att programmet svarar på vad som ska göras, men svaret har redan givits av en människa.

2024-01-30 06:36   Benganbus

Jag är orolig för AI då det är stora privata företag som sköter det hela, utan någon som helst insyn! Jag tänker på de saker som redan finns, tex det mesta på internet med Facebook och liknade! Och de här företagen är affärsdrivande, och man kommer såklart övertyga samhällsbyggare inom vård och omsorg och liknande att AI är en stor del av lösningen! Att avskaffa personal är alltid intressant, för personal e det dyra!
Sedan finns det problem inom AI som programerare och tillverkare inte talar så högt om, AI kan fabulera! Jag tycker att fabulera låter mycket mänskligt och intressant, men kanske inte hos AI! Men det håller man på att åtgärda! Säger man! Man kallar det problem i den svarta lådan, en svart låda som man inte riktigt vet hur den fungerar!
Jag har inget emot AI, jag är bara orolig för vad affärsverksamheten runt om AI kommer att innebära då den effektivisering som AI kan hjälpa till med självklart lockar många företag, även inom vård och omsorg! Men visst finns det intressanta saker som AI kan hälpa till med, bara det finns pålästa beställare inom samhälle, kommuner och Landsting! Och det kan jag ofta sakna!
Lycka till du sköna nya värld! :)
https://www.lu.se/artikel/beskriv-hur-du-mar-ny-ai-algoritm-staller-diagnos

https://www.unite.ai/sv/den-svarta-l%C3%A5dan-problemet-i-llms-utmaningar-och-nya-l%C3%B6sningar/

Svar från Khalad 2024-01-30 10:33

Det kan jag förstå, det är ju de stora företagen som har resurserna. Har läst länken på slutet och den är intressant. Tycker också Vetenskapens Värld berörde problemet - finns tex förutfattade meningar i inläsningsmaterialet är risken stor att förutfattade meningar också kommer med i AI-resultaten. På samma sätt är det väl om föråldrade medicinska resultat och rekommendationer finns med i underlaget, då riskerar också output bli fel. Inom medicin kan det såklart bli ödesdigert. Men i grund är det väl en variant av det gamla uttrycker om datorer och program - shit in ger shit ut. Att man sen inte vet exakt hur programmen väger in de milliard- eller biljontals data som är lagrade inser jag o att begreppet svart låda därför är relevant. Detta med datorers fabulerande vet jag inget om, men om programmen inte väljer och prioriterar bland datamängderna som programmerarna tänkt kan det väl uppfattas som fabulering?
Nåväl, du är säkert mer inläst än jag på ämnet, jag tyckte bara att programmet igår gav lite substans åt min känsla att AI än så länge är rätt långt från det jag kallar medveten intelligens som medvetet skulle kunna börja styra i andra riktningar än vad programskaparna tänkt.
Tack för intressant kommentar!
PS Undrar om datorers fabulerande kan vara samma sak som ComputerSweden (se mitt svar till Fredrik) kallar för hallucinationer?

2024-01-30 09:15   Frekeman

Snabb kommentar. Jag har själv ingen AI-kvarn att få vatten på. Jag kan för lite om ämnet helt enkelt.

Har nu precis sett programmet du hänvisar till. Det gjordes 2022 enligt eftertexterna, innan generativ AI slog igenom 2023 med OpenAIs ChatGPT. Det är ju under det senaste året som ordentliga saker har hänt. Dessutom verkar programmet vara franskt – finns det ett mer motsträvigt folk än fransmän? Jag tycker överlag att programmet var rätt ytligt och vinklat.

Lyssnade du på förra sommarens sommarprat med Max Tegmark? Betydligt mer tankeväckande och där får en person utveckla sina tankar på ett annat sätt än genom "soundbites" som i det franska programmet.

Som jag ser det är vi bara i början av "riktig" AI. Under de närmsta åren kommer nog mycket att hända som gör Vetenskapen Värld-avsnittet än mer föråldrat.

Mvh
Fredrik

Svar från Khalad 2024-01-30 13:09

Hej Fredrik, tack för intressant kommentar. Instämmer att fransmän ibland är motsträviga, särskilt då franska bönder. Så gillar man naturligtvis inte att det kommer utlänningar dit ibland och försöker prata engelska med dom, nästan en förolämpning ju. På det vetenskapliga området har jag däremot uppfattat att dom ofta är duktiga.
Jag vill också gärna säga att jag har ingen tes som jag försöker föra fram. Min egen personliga uppfattning är dock att jag inte kan se att se eller har erfarit att AI-program verkligen har någon form av medveten intelligens. Man kommer långt med att kunna hantera stora datamängder och hantera dom på liknande sätt vi människor har hanterat motsvarande information i text eller bilder. Max Tegmark känner jag däremot till en del, dels för att han är en kunnig och fantasifull teoretisk fysiker, dels för att han försvarat sin bror Per Shapiros blogg som kanske inte är så vetenskaplig. Båda bröderna talar gärna om framtiden. Att programmet jag refererade till blir mer föråldrat med tiden är naturligtvis sant, på sätt och vis också än mer föråldrat om man förutsätter att allt franskt är dåligt. En betydligt nyare artikel om både generativ AI ochChat GPT finner du här (ComputerSweden Vad är generativ AI? Så fungerar tekniken bakom Chat GPT) från april i fjol. Den beskrivningen har likheter med programmet.
Men fortfarande - jag försöker inte bevisa något - jag förklarar varför jag för egen del är lite besviken på AI som för mig ännu inte framstår som särskilt intelligent.

Frekeman 2024-01-30 15:41

Det är inget (större 😉) fel på fransmän men jag undrar exempelvis hur kvalificerad en sociolog (skäggige mannen med örhängen) är för att uttala sig om vad som är möjligt eller inte med AI.

Just ja, det var nåt med Max och hans bror som var lite underligt. Men, jag tror inte att det förtar från vad Max pratade om gällande AI i sommarpratet. Hade du lyssnat på det? Om inte, gör det. Intressant och lite skrämmande. Man får hoppas att denne intelligente man har fel!

Precis som du så försöker jag inte heller bevisa nåt. Och huruvida jag är besviken eller inte på AI beror nog på ens förväntningar. Jag har länge sett att mjukvaruföretag missbrukar beteckningen AI, och använder som marknadsföring för smarta algoritmer och maskininlärning. Det sistnämnda överlappar väl lite men det är under det senaste året om jag tycker att AI har tagit ett stort steg mot att leva upp till sitt namn. Och som sagt, det är bara början.

Nån gång så kommer man nog förstå mer om hur en mänsklig hjärna fungerar och teknik för att efterlikna den kommer att finnas och göras strömsnålare och mindre. Det brukar ju gå på det sättet. Nya moraliska problem att ta hänsyn till kommer att uppstå. Intressant är det.

2024-01-30 16:01   Halina Strandskatan

En fin bild på flickan... AI diskussionen lämnar jag ifred, vet för lite och är inte direkt sugen att fördjupa mig i det för tillfället. Programmet såg jag lite slarvig så jag får titta igen ;-)
Hälsningar Halina

Svar från Khalad 2024-01-30 16:16

Roligt att någon kommenterade bilden på flickan. Jag gillar bilden, satt på ett trottoarcafe och såg henne en bit bort. Stort tack Halina!

2024-01-31 12:29   gunte

Jag ska också kommentera bilden. Fina färger, glada flickfärger som ramas in av stolpe och palm?
HaD/Gunte..

2024-01-31 13:54   Tomasz

Det är intressant med AI, oavsett vad man tycker om det. Här är en läsvärd artikel:
https://www.pcgamer.com/ai-researchers-find-ai-models-learning-their-safety-techniques-actively-resisting-training-and-telling-them-i-hate-you/?utm_campaign=socialflow&utm_medium=social&utm_source=facebook.com&fbclid=IwAR124Dq6y8xi5hlyLw08di_L9SWCOWTQmxTnxFhzoLXEWhqKx971d0egM_Q