In de eerste week hebben we vooral kennis gemaakt met de problemen waar we tegenaan lopen als het aankomt op huidig gebruik van tech, met namen big tech. We hebben het gehad over het ethisch verantwoord gebruiken en maken van tech platformen maar ook de regelgeving. Wat mij vooral is bij gebleven is het punt dat de technologie tegenwoordig eigenlijk veel te snel vordert. Het is moeilijk om bij te blijven voor gebruikers maar vooral ook voor bijv. overheden die hier regelgevingen voor op moeten stellen.
Opdrachten
HvA als China
Als eerste opdracht hebben ik samen met mijn groepje gekeken naar wat er “stuk” is aan het Chinese sociale kredietsysteem. Hiervoor hebben we eerst onderzoek gedaan naar het systeem waar de volgende vier kenmerken voor ons het meeste belang hadden.
Dang’an
Een permanent persoonlijk dossier waarin de Chinese overheid informatie bijhoudt over iemands opleiding, werk, gedrag, straffen en lidmaatschappen. Een negatieve beoordeling kon gevolgen hebben voor iemands verdere leven.
Beloning voor goed gedrag
Het systeem verzamelt kredietinformatie over onder andere burgers, bedrijven en overheidsorganisaties. Het doel is om betrouwbaarheid en naleving van regels beter te kunnen beoordelen.
Straffen en beperkingen bij overtredingen
Wie regels overtreedt of bijvoorbeeld een gerechtelijke uitspraak niet naleeft, kan op een zwarte lijst terechtkomen. Dit kan leiden tot beperkingen, bijvoorbeeld bij bepaalde diensten of reizen.
Het is geen één landelijke score voor iedere burger
Een belangrijk misverstand is dat iedere Chinees één nationale score heeft die voortdurend stijgt of daalt op basis van alledaags gedrag. In werkelijkheid bestaat het sociaal kredietsysteem uit verschillende databases, zwarte lijsten, bedrijfsregistraties en lokale initiatieven.
Na het onderzoek die we gezamenlijk hebben uitgevoerd zijn we gaan kijken naar een manier om dit vorm te geven voor HvA studenten. We zijn toen uit gekomen op een strengere regelgeving op Fraude en Plagiaat.
Weekopdracht
Algoritmes
Ik vond dit een interessante opdracht. we hebben het de hele tijd gehad over wat wel en niet ethisch verantwoord is om vervolgens studenten af te gaan rekenen op bepaalde factoren. Achteraf gezien vind ik het niet eerlijk om studenten op eerder of ander werk/gedrag af te rekenen. Het is zeker mogelijk om patroon herkenning toe te passen hier maar om het eerlijk te houden is het’t beste om een ieder een kans te geven om te laten zien wat hij/zij kan.
Ethisch Dilemma
Taakverdeling: In de les hebben we gezamenlijk de grote lijnen neergezet met punten 3,4 en 5. Ik heb hier thuis zelf nog wat aanpassingen gedaan en de punten 6,7 en 8 verder uitgewerkt.
Toepassing van morele verbeeldingskracht
We hebben in deze week ook een toets in de les gedaan. Ik heb hierop feedback gekregen over het toepassen van morele verbeeldingskracht. Achteraf gezien realiseer ik me dat ik inderdaad de vraag wat kortzichtig heb beantwoord. Ik kan dit nu niet meer aanpassen maar in de andere weken (rechten & design/economie) heb ik me hier wel meer mee bezig gehouden. Het is van belang om een product of platform te bekijken vanuit verschillende invalshoeken. Hierbij komen dan ook de vraagstukken kijken: wat als het juist mis gaat, wie vangen die klappen op? of Wie zijn onderdeel van de kwetsbare groep en hoe kun je jou product/platform hierop aanpassen of verbeteren?
Afsluiting
Al met al was de eerste week een goede opwarming. Het heeft voor mij een aantal nieuwe invalshoeken blootgesteld waar ik voorheen nog niet zo bij heb stilgestaan. Voor mij was het eigenlijk behoorlijk vanzelfsprekend dat tech niet neutraal is. Wij als mensen hebben van nature bepaalde meningen en gewoontes. Dan is het logisch dat dit ook terug te zien zal zijn in producten en platformen die door ons zijn gecreëerd. In de les hebben we het gehad over het feit dat er een soort algemene mening is dat bloemen bijvoorbeeld mooi zijn, terwijl dit eigenlijk gewoon een mening is die toevallig door grote delen van de mensheid gedeeld wordt. Terwijl niet iedereen dit hoeft te vinden, maar omdat dit al zo lang meegaat, wordt het als een feit gezien en zie je het ook door bijvoorbeeld AI terug.
AI wordt op een bepaalde manier op ons getraind. Dit is dan een heel oppervlakkig voorbeeld, maar dit kan zo ver gaan als techproducten die afgestemd zijn op een bepaalde huidskleur. Dit is dan in het geval van bijvoorbeeld de ontwerper de norm, waardoor er delen van de samenleving als het ware buitengesloten worden.