OpenAI, ChatGPT

[DDD]

Wat leuk om te lezen. Dat is inderdaad een lezenswaardig blad.

Maar ik blijf erbij dat ChatGPT vooralsnog notoir onbetrouwbaar is. Wat niet wil zeggen dat dat over drie jaar nog zo zal zijn.

Voordat er nu allerlei misverstanden zijn: Dit was de kwestie en het ging niet over beroepsmatige AI, hoewel de problematiek daar niet extreem veel minder is, naar mijn indruk.

[Wim Anker]

Wat leuk om te lezen. Dat is inderdaad een lezenswaardig blad.

Maar ik blijf erbij dat ChatGPT vooralsnog notoir onbetrouwbaar is. Wat niet wil zeggen dat dat over drie jaar nog zo zal zijn.

Voordat er nu allerlei misverstanden zijn: Dit was de kwestie en het ging niet over beroepsmatige AI, hoewel de problematiek daar niet extreem veel minder is, naar mijn indruk.

Voor de goede orde: Deze beroepsmatige AI is dezelfde LLM (of een LLM uit de grote lijst beschikbare LLM's, het zelf trainen van zo'n LLM komt niet voor) maar dan gefocused op een beperkte set document (bij juristen b.v. op de juridische collectie en wetteksten). Alleen daar mogen de antwoorden uitgehaald worden. In het besproken voorbeeld op dit forum - artikel 17 wms - simuleerde ik dit door eerst naar de wettekst zelf te vragen alvorens daar een uitleg van te vragen.

Maar "beroepsmatige AI" versus ChatGPT is een oneigenlijke tegenstelling. Het zijn dezelfde taalmodellen alleen de scource, uit welke documenten mag de LLM putten om een antwoord op te halen, verschilt.

[DDD]

Een belangwekkend artikel over dit onderwerp, en over de relatie tussen autocratische regimes en AI:

https://www.njb.nl/media/loqee5sf/njb33 ... bieden.pdf

[Wim Anker]

Een belangwekkend artikel over dit onderwerp, en over de relatie tussen autocratische regimes en AI:

https://www.njb.nl/media/loqee5sf/njb33 ... bieden.pdf

Een prima artikel inderdaad vwbt de oproep om op universiteiten en scholen het gebruik van generatieve AI aan banden te leggen.
Het artikel verliest wel (heel veel) aan kracht doordat de opstellers het gebruiken om hun linkse ideologie ook nog eens voor het voetlicht te brengen en de opvatting aan te hangen dat iedereen die anders denkt dan zij door het gebruik van generatieve AI zo dom te zijn geworden zodat ze niet hetzelfde denken als de verlichtende geesten van de auteurs.
Vanaf dat moment (ergens waar ze beginnen te roepen dat autocratische regimes vooral door ChatGPT komen) is te teneur: Leer de mensen (opleiden) zodat ze hetzelfde gaan denken als wij (want dat is het ultieme wat men kan bereiken) en als het niet lukt gaan we reguleren (lees: verbieden).

Kortom, jammer dat het niet bleef bij de eerste 6 a 7 pagina's.

[Herman]

Misschien had je het stuk even door AI kunnen halen , want dat is niet de conclusie van punt 7. De conclusie is dit, ik citeer:

Dus wat betekent het als juristen de interpretatie, toepassing, handhaving en (door)ontwikkeling van regels gaan uitbesteden aan GenAI? Wat ons betreft geven we dan de rechtsstaat uit handen aan de eigenaars en ontwikkelaars achter de technologie.

Deze conclusie stoelt mede op de paragraven 1 tot en met 6. Dus zo heel gek is dat niet. Hier gaat het om juristen in algemene zin en niet om 'juristen met profiel x'. Je kunt dat dus niet versmallen. Als rechtenstudent heb je dus nog steeds de vrijheid om een Paul Cliteur 2.0 te worden, zonder GenAI.

[refo]

Toch wordt er weer het een ander gedebiteerd over 'de rechtsstaat'. Het klinkt wel alsof er geen kritiek geleverd mag worden op de stand van zaken binnen de 'rechtsstaat' of geen kritiek gegeven mag worden op de rechterlijke macht.

[Herman]

Toch wordt er weer het een ander gedebiteerd over 'de rechtsstaat'. Het klinkt wel alsof er geen kritiek geleverd mag worden op de stand van zaken binnen de 'rechtsstaat' of geen kritiek gegeven mag worden op de rechterlijke macht.

Jawel, dat mag wel, vandaar ook mijn verwijzing naar een hedendaagse student in de traditie van Cliteur.

Maar niet met door GenAI gehallucineerde arresten van de Hoge Raad.

[DDD]

Precies. En wat Trump doet, is ook niet suggesties geven voor de verbetering van de rechtsstaat, maar die afbreken naar eigen zin en mening.

[Wim Anker]

Toch wordt er weer het een ander gedebiteerd over 'de rechtsstaat'. Het klinkt wel alsof er geen kritiek geleverd mag worden op de stand van zaken binnen de 'rechtsstaat' of geen kritiek gegeven mag worden op de rechterlijke macht.

Jawel, dat mag wel, vandaar ook mijn verwijzing naar een hedendaagse student in de traditie van Cliteur.

Maar niet met door GenAI gehallucineerde arresten van de Hoge Raad.

Eens met deze conclusie, toch wordt het stuk m.i. teveel vanuit een bepaalde politieke voorkeur - vooral in de tweede helft - aangevlogen en dat doet, wat mij betreft, afbreuk aan het punt wat wordt aangekaart.
En de conclusie: "Wat ons betreft geven we dan de rechtsstaat uit handen aan de eigenaars en ontwikkelaars achter de technologie." is een terechte conclusie. Maar daar had het bij kunnen blijven zonder waarde oordeel dat die mensen "erop uit zijn de rechtsstaat om zeep te helpen een autocratieën te vestigen". En dat ademt het stuk m.i. teveel. (het is ook precies de conclusie die @DDD trekt uit het artikel). Maar dat zou niet de kern van het artikel moeten zijn wat mij betreft.

Maar nogmaals, dank voor dit artikel. Het is een mooie bijdrage aan de discussie die nu in volle hevigheid wordt gevoerd bij de rijksoverheid.

[refo]

Precies. En wat Trump doet, is ook niet suggesties geven voor de verbetering van de rechtsstaat, maar die afbreken naar eigen zin en mening.

Dat is het idee van politiek. De een noemt het een verbetering, de andere afbraak.
Neem abortus. Vroeger werd je daarvoor gevangen gezet. Nu willen sommigen het als mensenrecht zien.

[ZWP]

Precies. En wat Trump doet, is ook niet suggesties geven voor de verbetering van de rechtsstaat, maar die afbreken naar eigen zin en mening.

Dat is het idee van politiek. De een noemt het een verbetering, de andere afbraak.
Neem abortus. Vroeger werd je daarvoor gevangen gezet. Nu willen sommigen het als mensenrecht zien.

Het tweede is mogelijk binnen een functionerend rechtssysteem. Afbraak is het systeem zelf ondermijnen. Belangrijk verschil.

[DDD]

Eens. Dat zijn twee totaal onvergelijkbare zaken. Als iemand zou voorstellen om iedereen boven de 70 te doden, dan zou ik dat een afschuwelijk standpunt vinden, maar geen aantasting van de rechtsstaat.

[Wim Anker]

Precies. En wat Trump doet, is ook niet suggesties geven voor de verbetering van de rechtsstaat, maar die afbreken naar eigen zin en mening.

Dat is het idee van politiek. De een noemt het een verbetering, de andere afbraak.
Neem abortus. Vroeger werd je daarvoor gevangen gezet. Nu willen sommigen het als mensenrecht zien.

Het tweede is mogelijk binnen een functionerend rechtssysteem. Afbraak is het systeem zelf ondermijnen. Belangrijk verschil.

Eens. Maar de teneur is dat elke tegenstem op de linkse agenda wordt geframed als een afbraak van het systeem zelf.

De rechtstaat is verworden tot een wapen voor goddelozen.

[Wim Anker]

Eens. Dat zijn twee totaal onvergelijkbare zaken. Als iemand zou voorstellen om iedereen boven de 70 te doden, dan zou ik dat een afschuwelijk standpunt vinden, maar geen aantasting van de rechtsstaat.

Waarvan akte. Zou God daar hetzelfde over denken? En over de "rechtstaat" die iedereen <24 weken "free to kill" heeft gemaakt?

[Herman]

Maar daar had het bij kunnen blijven zonder waarde oordeel dat die mensen "erop uit zijn de rechtsstaat om zeep te helpen een autocratieën te vestigen".

Ik zie dat wel als een belangrijk punt, en dat komt omdat ik mij verdiept heb in het boek Autocratie van Anne Applebaum. De voetnoten in paragraaf 7 zijn wat mij betreft ook wel afdoende om in ieder geval de mogelijkheid van kritiek op GenAI te bieden die ook het probleem autocratie raakt. Het is toch voldoende duidelijk dat via social media spamaccounts bezig zijn desinformatie te verspreiden om invloed op de meningsvorming uit te oefenen. Het is prima als dat irl gebeurd, maar als het allemaal AI gegenereerde bots zijn, dan zou ik daar wel degelijk een probleem in zien.
Daarbij komt het inhoudelijke argument dat feit en fictie in een autocratisch bestel steeds meer door de war lopen, en dat niet deskundig gebruik van AI dat versterkt. Nu weet ik niet of de de democratische keuzevrijheid er beter dan wel slechter op wordt als je meer of minder GenAI inzet, maar ik vind het volstrekt logisch dat als je eerst een overtuigend betoog houdt, dat rechtenstudenten alleen maar dommer worden van het gebruik van GenAI, dat dit ook geldt voor het geheel van de samenleving.

Verder ben ik overigens van mening dat het voor een christen niet zoveel moet uitmaken in een liberale progressieve rechtsstaat te moeten leven, dan wel in een autocratie. Dat vergt een andere discussie, maar het zorgt er wel voor dat ik niet zo goed begrijp waarom dit artikel vanuit dit perspectief nu zo negatief wordt beoordeeld.