OpenAI, ChatGPT

[merel]

De markt bepaalt niet of het betrouwbaar is. Dat doen de rechters als de consument met deze informatie voor hen staat. Alleen zal dezelfde consument dan afgeven op de rechterlijke macht. Dat is juist het gevaar van de huidige tijd.

[Wim Anker]

De markt bepaalt niet of het betrouwbaar is. Dat doen de rechters als de consument met deze informatie voor hen staat. Alleen zal dezelfde consument dan afgeven op de rechterlijke macht. Dat is juist het gevaar van de huidige tijd.

Nee, dit klopt niet. Ook de rechters zullen meegaan met hoe het volk (de consument) het wil. Want die zullen, via de wetgevende macht, de wetten aan laten passen.
Juist het vermeende absolutisme wat de rechterlijke macht nu zo lijkt te verdedigen (de RvS die geloof ik vind dat hun adviezen niet opvolgen ondemocratisch is enzo) is autocratisch.
Maar rechters voeren de wet uit. Niet meer en niet minder. Die zijn niet degenen die bepalen of iets betrouwbaar is, of juist is, of waar is.

En juist dat denken, dat de rechters bepalen wat waar is, wat juist is, wat betrouwbaar is, is funest. Dat een jurist dit zegt is wel een teken aan de wand hoever de trias politica uitholt ten faveure van de rechterlijke macht.
Want het is flauwekul. Een rechter moet een wet lezen en toepassen. (dat kan AI ook prima doen, t'is gewoon determinisme).
En er wordt ook al voluit mee geëxperimenteerd. We moeten ook niet de zaken in de media, die meer gaan over richting/politiek en keuzen
dan over recht) verwarren met het gewone werk wat langzamerhand inderdaad wordt overgenomen door AI. (voor de verkeersboetes vonden we het al lang prima toch?).

Een onrechtvaardige rechter past de wet niet correct toe. Maar een rechtvaardige rechter past de wet correct toe. Al zou de wet onrechtvaardig zijn.

[DDD]

Wat is dat voor een rare redenering. ChatGPT kan tot op heden niet eens de wet lezen. Als je eenvoudig vraagt wat er in een bepaald wetsartikel staat, zelfs zonder om uitleg te vragen, krijg je al een verkeerd antwoord. En rechters kijken uiteraard gewoon in de wet.

Het is ronduit idioot om te zeggen dat dat 'politiek' is. En AI kan dat tot op heden niet.

De markt kan hooguit bepalen wat mensen geloven. Maar als ChatGPT zegt dat iets zo is, terwijl het niet zo is, dan wordt het daarmee niet waar. Zelfs als ChatGPT iedereen zou wijsmaken dat één plus één drie is omdat je dat zo vaak in presentaties leest, blijft één plus één twee.

Ik geloof er ook niets van dat het model 90 procent van de vragen goed beantwoordt. Ik weet dat de Praktizijnsbibliotheek daar maandelijks onderzoek naar doet, en nota bene steeds naar dezelfde vragen. En de antwoorden deugen nog steeds grotendeels niet.

Zelfs als ik een héél eenvoudige vraag stel, komt er nog onzin uit. En ik weet dat je met prompten een heel eind komt. Daar heb ik ook cursus over gehad. Maar wat je dan doet, is geen antwoord krijgen op een vraag. Maar zelf voor het systeem nadenken en het model neemt dan enkel de kwestie van het goed formuleren over. Dat is heel waardevol en kan tijd besparen als je het goed doet, maar dat is niet hoe gebruikers het model gebruiken. Die denken dat je een vraag kunt stellen en daar dan een (meestal juist) antwoord op krijgt. En dat klopt niet.

Dat neemt niet weg, dat als je vraagt wat er in Genesis 3 vers 15 staat, er wel een juist antwoord komt. Dus het is een kwestie van tijd en het model gaat zich verbeteren en misschien kan het systeem over een jaar wel gewoon vertellen wat de belangrijkste artikelen uit het burgerlijk wetboek van Nederland zijn en hoe die luiden, zonder er zelf een paar te verzinnen.

Maar daarvoor moeten er echt nog meer verbeterslagen zijn, want tot op heden kiest zo'n model gewoon een aantal woorden die het wel goed bij elkaar vindt passen, zonder dat er controle zit of dat klopt. Maar dat zal blijven verbeteren. Want de vraag of één plus één drie is, kan hij inmiddels goed beantwoorden, heb ik zojuist even gecontroleerd.

[Wim Anker]

Wat is dat voor een rare redenering. ChatGPT kan tot op heden niet eens de wet lezen. Als je eenvoudig vraagt wat er in een bepaald wetsartikel staat, zelfs zonder om uitleg te vragen, krijg je al een verkeerd antwoord. En rechters kijken uiteraard gewoon in de wet.

Het is ronduit idioot om te zeggen dat dat 'politiek' is. En AI kan dat tot op heden niet.

De markt kan hooguit bepalen wat mensen geloven. Maar als ChatGPT zegt dat iets zo is, terwijl het niet zo is, dan wordt het daarmee niet waar. Zelfs als ChatGPT iedereen zou wijsmaken dat één plus één drie is omdat je dat zo vaak in presentaties leest, blijft één plus één twee.

Ik geloof er ook niets van dat het model 90 procent van de vragen goed beantwoordt. Ik weet dat de Praktizijnsbibliotheek daar maandelijks onderzoek naar doet, en nota bene steeds naar dezelfde vragen. En de antwoorden deugen nog steeds grotendeels niet.

Zelfs als ik een héél eenvoudige vraag stel, komt er nog onzin uit. En ik weet dat je met prompten een heel eind komt. Daar heb ik ook cursus over gehad. Maar wat je dan doet, is geen antwoord krijgen op een vraag. Maar zelf voor het systeem nadenken en het model neemt dan enkel de kwestie van het goed formuleren over. Dat is heel waardevol en kan tijd besparen als je het goed doet, maar dat is niet hoe gebruikers het model gebruiken. Die denken dat je een vraag kunt stellen en daar dan een (meestal juist) antwoord op krijgt. En dat klopt niet.

Dat neemt niet weg, dat als je vraagt wat er in Genesis 3 vers 15 staat, er wel een juist antwoord komt. Dus het is een kwestie van tijd en het model gaat zich verbeteren en misschien kan het systeem over een jaar wel gewoon vertellen wat de belangrijkste artikelen uit het burgerlijk wetboek van Nederland zijn en hoe die luiden, zonder er zelf een paar te verzinnen.

Maar daarvoor moeten er echt nog meer verbeterslagen zijn, want tot op heden kiest zo'n model gewoon een aantal woorden die het wel goed bij elkaar vindt passen, zonder dat er controle zit of dat klopt. Maar dat zal blijven verbeteren. Want de vraag of één plus één drie is, kan hij inmiddels goed beantwoorden, heb ik zojuist even gecontroleerd.

Wat voor vraag stel jij dan bv (een heel eenvoudige vraag) en er toch heel veel onzin uitkomt? Die - in jouw ogen - gebruikers stellen (op hun manier) en dat er dan een verkeerd antwoord komt? Heb je voorbeelden?

[DDD]

Jazeker.

Ik heb nog niet zo lang geleden gevraagd naar een toelichting op een wetsartikel in mijn vakgebied.

De eerste twee leden van dat artikel heeft ChatGPT goed geciteerd. De leden drie en vier waren echter vervangen door compleet verzonnen artikelen. Onbegrijpelijk hoe zoiets kan, maar op dat punt zit er kennelijk nog geen check in het model.

De uitleg klopte ook niet, maar dat vind ik dan nog een bijzaak.

Het levert in ieder geval heel veel extra werk op, omdat er mensen zijn die denken alvast kosten te besparen door drie bladzijden toe testuren die deels juist zijn en deels niet. Twee jaar geleden zou ik als ik een advies moet reviewen alleen de eerste en laatste zin van een artikel lezen en er op vertrouwen dat het verder goed geciteerd is, maar dat kan dus niet meer. Er kan zomaar een onzinregel tussen staan.

Ik vertrouw erop dat zulke dingen zullen worden opgelost (ik snap sowieso niet dat dat al niet is geregeld, het lijkt me simpel om bijvoorbeeld voor te schrijven dat wetsartikelen alleen uit een erkende databank mogen komen) maar voor nu is jouw stelling echt onbeargumenteerd en niet juist.

En ik snap dat je in de prompt kunt zeggen dat hij alleen een wetsartikel van wetten.nl kan halen. Maar dan doe je zelf het denkwerk, en dat kunnen de meeste mensen niet.

[Wim Anker]

Jazeker.

Ik heb nog niet zo lang geleden gevraagd naar een toelichting op een wetsartikel in mijn vakgebied.

De eerste twee leden van dat artikel heeft ChatGPT goed geciteerd. De leden drie en vier waren echter vervangen door compleet verzonnen artikelen. Onbegrijpelijk hoe zoiets kan, maar op dat punt zit er kennelijk nog geen check in het model.

De uitleg klopte ook niet, maar dat vind ik dan nog een bijzaak.

Het levert in ieder geval heel veel extra werk op, omdat er mensen zijn die denken alvast kosten te besparen door drie bladzijden toe testuren die deels juist zijn en deels niet. Twee jaar geleden zou ik als ik een advies moet reviewen alleen de eerste en laatste zin van een artikel lezen en er op vertrouwen dat het verder goed geciteerd is, maar dat kan dus niet meer. Er kan zomaar een onzinregel tussen staan.

Ik vertrouw erop dat zulke dingen zullen worden opgelost (ik snap sowieso niet dat dat al niet is geregeld, het lijkt me simpel om bijvoorbeeld voor te schrijven dat wetsartikelen alleen uit een erkende databank mogen komen) maar voor nu is jouw stelling echt onbeargumenteerd en niet juist.

En ik snap dat je in de prompt kunt zeggen dat hij alleen een wetsartikel van wetten.nl kan halen. Maar dan doe je zelf het denkwerk, en dat kunnen de meeste mensen niet.

Dat vroeg ik niet -:). De vraag was: wat heb je gevraagd? (b.v. Hoi! ik ben jurist en wil een toelichting op artikel zoveel). Of: (hoi, ik zoek juridisch info over (onderwerp waar het artikel over zou gaan). Wat heb je gevraagd?
Gewoon een voorbeeld?

[DDD]

Ik heb de prompt niet bewaard. Maar ik heb gewoon een vraag gesteld zoals gemiddelde mensen die aan zo'n chatbot stellen, dus zonder alle denkwerk zelf al te doen.

Het maakt niet uit, je kunt zo zelf exact hetzelfde proberen met ieder wetsartikel, toch?

[Tiberius]

ChatGPT bewaart de prompts zelf.

[merel]

Het is niet eens nodig om wetsartikelen te noemen. Ik heb wel eens een brief geschreven naar een particuliere wederpartij waarin ik mijn standpunt weergegeven heb. In die brief staan juridische termen. Deze worden door ChatGPT gehaald en vervolgens wordt een brief teruggezonden van 6 kantjes met o.a. niet bestaande en/of niet toepasbare jurisprudentie. Het is enorm tijdrovend om daarop te reageren.

[Wim Anker]

Ik heb de prompt niet bewaard. Maar ik heb gewoon een vraag gesteld zoals gemiddelde mensen die aan zo'n chatbot stellen, dus zonder alle denkwerk zelf al te doen.

Het maakt niet uit, je kunt zo zelf exact hetzelfde proberen met ieder wetsartikel, toch?

Nee, dat kan ik niet ;-). En ik denk dat ik andere promps/vragen stel want ik ken deze issues namelijk niet. En wat "gemiddelde" mensen doen weet ik niet, ms ben ik gemiddeld, mischien niet. Ik probeer er juist achter te komen wat er mis gaat.


(Overigens moest je vroeger ook zelf denken, de keuze om een wetboek te pakken om een wetsartikel op te zoeken is al denkwerk)

Het hoeft niet hoor, maar verzin gewoon een vraag, check het antwoord en als het onzin is post het. Dan kunnen we kijken wat er mis gaat.

[Wim Anker]

Het is niet eens nodig om wetsartikelen te noemen. Ik heb wel eens een brief geschreven naar een particuliere wederpartij waarin ik mijn standpunt weergegeven heb. In die brief staan juridische termen. Deze worden door ChatGPT gehaald en vervolgens wordt een brief teruggezonden van 6 kantjes met o.a. niet bestaande en/of niet toepasbare jurisprudentie. Het is enorm tijdrovend om daarop te reageren.

Dit is een ander issue als dat de LLM niet correct zou antwoorden op de gestelde vragen. Deze aspecten moeten we wel uit elkaar houden.

[merel]

Het is niet eens nodig om wetsartikelen te noemen. Ik heb wel eens een brief geschreven naar een particuliere wederpartij waarin ik mijn standpunt weergegeven heb. In die brief staan juridische termen. Deze worden door ChatGPT gehaald en vervolgens wordt een brief teruggezonden van 6 kantjes met o.a. niet bestaande en/of niet toepasbare jurisprudentie. Het is enorm tijdrovend om daarop te reageren.

Dit is een ander issue als dat de LLM niet correct zou antwoorden op de gestelde vragen. Deze aspecten moeten we wel uit elkaar houden.

Niet helemaal. De juridische termen werden onvolledig geduid door ChatGPT, waardoor er veel ruis op de lijn komt.

[DDD]

Ik heb de prompt niet bewaard. Maar ik heb gewoon een vraag gesteld zoals gemiddelde mensen die aan zo'n chatbot stellen, dus zonder alle denkwerk zelf al te doen.

Het maakt niet uit, je kunt zo zelf exact hetzelfde proberen met ieder wetsartikel, toch?

Nee, dat kan ik niet ;-). En ik denk dat ik andere promps/vragen stel want ik ken deze issues namelijk niet. En wat "gemiddelde" mensen doen weet ik niet, ms ben ik gemiddeld, mischien niet. Ik probeer er juist achter te komen wat er mis gaat.


(Overigens moest je vroeger ook zelf denken, de keuze om een wetboek te pakken om een wetsartikel op te zoeken is al denkwerk)

Het hoeft niet hoor, maar verzin gewoon een vraag, check het antwoord en als het onzin is post het. Dan kunnen we kijken wat er mis gaat.

Prima.

Dat is heel simpel.

Ik stel de vraag:

Graag een uitleg van artikel 17 Wms.

Het antwoord van ChatGPT is:

Natuurlijk! Hier is een duidelijke uitleg over artikel 17 van de Wet medezeggenschap op scholen (Wms).

Artikel 17 Wms: Instemmingsbevoegdheid (GMR)

Artikel 17 van de Wet medezeggenschap op scholen (Wms) regelt de instemmingsbevoegdheid van de Gemeenschappelijke Medezeggenschapsraad (GMR) bij beslissingen van het bevoegd gezag die meerdere scholen van een schoolbestuur aangaan.

Wat staat er in Artikel 17 Wms? (in hoofdlijnen)

Artikel 17 zegt dat het bevoegd gezag (bijv. het schoolbestuur) instemming moet vragen aan de GMR voor besluiten die van gemeenschappelijk belang zijn voor alle (of meerdere) scholen onder dat bestuur, voor zover het gaat om onderwerpen waarop de (G)MR instemming moet geven.

Met andere woorden:

Als een schoolbestuur iets wil besluiten dat gevolgen heeft voor meerdere scholen, dan moet de GMR ermee instemmen — als het onderwerp instemmingsplichtig is.

Voorbeelden van instemmingsplichtige besluiten (voor de GMR)

Een regeling voor de verdeling van de financiën over meerdere scholen.

Beleid op het gebied van onderwijstijd, veiligheid of gelijke behandeling, voor alle scholen.

Wijziging van een regeling over klachtenbehandeling of medezeggenschap, voor meerdere scholen tegelijk.

Let op: Het gaat hier alleen om besluiten die vallen onder de instemmingsbevoegdheid (zoals ook opgesomd in artikel 11 Wms), maar dan op boven-schoolniveau.

Waarom is artikel 17 belangrijk?

Het beschermt de invloed van ouders, personeel en leerlingen op beleid dat hen raakt op meerdere scholen.

Voorkomt dat het bevoegd gezag beleid doordrukt zonder overleg met de GMR.

Zorgt voor democratische legitimatie van besluitvorming op bestuursniveau.

Belangrijk onderscheid:
MR (medezeggenschapsraad) GMR (gemeenschappelijke MR)
Gaat over één school Gaat over meerdere scholen binnen hetzelfde bestuur
Bevoegd bij school-specifieke zaken Bevoegd bij bestuur-brede of meerdere scholen betreffende zaken
Instemmingsrecht bij bijv. schooltijden, ouderbijdrage etc. Instemmingsrecht bij bijv. bestuurdersbeleid of beleidskeuzes voor meerdere scholen
Samenvattend

Artikel 17 Wms regelt dat de GMR instemming moet geven voor voorgenomen besluiten van het bevoegd gezag die van belang zijn voor meerdere scholen, op onderwerpen waar instemming wettelijk verplicht is. Het versterkt de positie van ouders, personeel en leerlingen bij belangrijke, gezamenlijke beleidsbeslissingen.

Laat me weten als je een voorbeeld wilt van hoe dit artikel in de praktijk werkt, of als je het wetsartikel zelf in juridische taal wilt zien.

In artikel 17 Wms staat daadwerkelijk:

Artikel 17. Adviesaanvrage
Indien een te nemen besluit ingevolge artikel 11, dan wel op grond van het medezeggenschapsreglement krachtens artikel 24, tweede en derde lid, vooraf voor advies dient te worden voorgelegd aan de medezeggenschapsraad, draagt het bevoegd gezag er zorg voor dat:
a. advies wordt gevraagd op een zodanig tijdstip, dat het advies van wezenlijke invloed kan zijn op de besluitvorming;
b. de medezeggenschapsraad in de gelegenheid wordt gesteld met hem overleg te voeren voordat advies wordt uitgebracht;
c. de medezeggenschapsraad zo spoedig mogelijk schriftelijk in kennis wordt gesteld van de wijze waarop aan het uitgebrachte advies gevolg wordt gegeven; en
d. de medezeggenschapsraad, indien het bevoegd gezag het advies niet of niet geheel wil volgen, in de gelegenheid wordt gesteld nader overleg met hem te voeren alvorens het besluit definitief wordt genomen.

De vorige keer overigens had hij de eerste twee leden wel goed, maar de derde en vierde waren als uit zijn duim gezogen. Nu slaat het helemaal nergens op, het lijkt wel een poging om artikel 10 uit te leggen.

In ieder geval: jouw stelling dat het uitleggen van een tekst voor AI op dit moment al eenvoudig zou zijn, lijkt hier niet juist.

[Wim Anker]

Het is niet eens nodig om wetsartikelen te noemen. Ik heb wel eens een brief geschreven naar een particuliere wederpartij waarin ik mijn standpunt weergegeven heb. In die brief staan juridische termen. Deze worden door ChatGPT gehaald en vervolgens wordt een brief teruggezonden van 6 kantjes met o.a. niet bestaande en/of niet toepasbare jurisprudentie. Het is enorm tijdrovend om daarop te reageren.

Dit is een ander issue als dat de LLM niet correct zou antwoorden op de gestelde vragen. Deze aspecten moeten we wel uit elkaar houden.

Niet helemaal. De juridische termen werden onvolledig geduid door ChatGPT, waardoor er veel ruis op de lijn komt.

Dat is nu net de vraag ;-). Ik stel dat over het algemeen, bij de juiste vragen, ChatGPT kwalitatief een verbetering is t.o.v. toen het er niet was. (Dat is wat anders dan constateren dat toen ChatGPT er niet was dergelijke reacties minder voorkwamen omdat het veel meer werk was iets terug te typen).

[DDD]

Nou, ik ben benieuwd. En ik begrijp overigens dat als je de juiste prompt geeft, hij het juiste antwoord geeft. Maar dat is geen antwoord meer op een vraag. Dat is een uitwerking in woorden van jouw eigen steekwoorden-antwoord in de vorm van een prompt.