Computergegenereerde forumposts

Dit topic is gesloten

Waarde Moderators,

De huidige forumregels verbieden het niet om forumposts door een computer te laten genereren. Bijvoorbeeld chatGPT, bing copilot, of eender welk ander taalmodel.

Ik denk dat als iemand iets op een forum vraagt, diegene antwoord wil van een mens, en liefst een mens met verstand van hetgeen de vraag inhoud. Anders vroeg diegene het zelf wel aan een LLM.

Een post als https://www.circuitsonline.net/forum/view/message/2517113#2517113 wekt dus wat irritatie bij mij op. Gelukkig staat er netjes bij dat het door chatGPT gegenereerd is. Want ik denk dat je bliksembeveiliging (of eender wat, eigenlijk) niet aan een taalmodel moet overlaten. (Misschien vertalingen, zo lang het niks bijverzint). Zo’n model heeft geen inzicht, geen besef, geen benul, geen verstand, en als je iets vraagt dat buiten de trainingsset valt verzint het maar iets dat redelijk klinkt.

Ook, maar misschien ben ik dan te zwartgalligcynisch, lijkt het er op alsof de poster zich wil voordoen als actief forumdeelnemer zonder zelf de post te schrijven. Bij een forum waar je na 5 posts links mag spammen zie ik daar nog wel een businessmodel achter, hier niet zo, maar toch.

Nuja. Bij deze heb ik dat geventileerd en verder laat ik het aan jullie over. Er is eerder al wat over gpt gesputterd in een ander topic, dat hoef ik niet per se opnieuw aan te steken.

Eluke.nl | handgetypt | I'm a poor, lonesome cowboy, with a long, long way to go.
blackdog

Golden Member

Hi,

Als electronica en computernerd kan ik zeggen +1!

Ik praat liever tegen een mens dan tegen een stuk software, uitzonderingen daar gelaten. :+
Laten we dit een mensen forum houden, met alle ongemakken van dien.

Groet,
Bram

You have your way. I have my way. As for the right way, the correct way, and the only way, it does not exist.
revado

Honourable Member

+1 @Lucky Luke en Bram!

Bij het topic over de toonregeling heb ik het zelfde gevoel.
Ook daar begint de reactie met "Het lijkt er op" en dat zegt al genoeg.

Ik zou zeggen...leer ermee leven want straks ga je toch het onderscheid niet meer kunnen maken.
Mijn kleindochter aan hogeschool gebruikt niets anders meer en dat wordt sterk aangemoedigd door de school.

LDmicro user.
revado

Honourable Member

Op donderdag 20 juni 2024 13:33:12 schreef MGP:
Ik zou zeggen...leer ermee leven want straks ga je toch het onderscheid niet meer kunnen maken.
Mijn kleindochter aan hogeschool gebruiken niets anders meer en dat wordt sterk aangemoedigd door de school.

Een gruwelijke slechte ontwikkeling waar ik mij, waar mogelijk, tegen blijf verzetten.

Ik vind dit een zeer nuttige discussie om te hebben.

Ook de bijdrage over de toonregeling komt ietwat automatisch gegenereerd over. En juist als het gaat om technische of wetenschappelijke informatie, maken die veredelde chatbots heel vaak grove fouten. Laat staan als het systeem op zichzelf gaat lopen trainen, als er data van 'ons' forum gescraped wordt, maar ook weer teruggepost wordt. We krijgen dan een soort hypermoderne Mexicaanse Hond, die evenveel storing veroorzaakt.

Ik zou wel voorzichtig zijn met het suggereren dat die persoon het alleen uit eigenbelang doet. Want soms denken mensen oprecht hulpvaardig te zijn op manieren die misschien niet helemaal op hun plek zijn.

Wij mensen maken ook fouten. Maar fouten die keer op keer doorverteld worden leer je makkelijk herkennen, en je leert ook de medeforumbewoners kennen en een inschatting te maken over hun kennis.

Ik vind een hard verbod niet nodig. Maar ik zou zelf voorstellen om een tag te maken (zoals de quote en code tags) en het verplicht te stellen om alle automatisch gegenereerde tekst in zo'n blok te zetten, waar dan onder en boven de tekst automatisch een door de forumsoftware gegenereerde waarschuwing bij komt. Wellicht ook iets waardoor andere bots niet die tekst kunnen herkauwen, ik weet niet hoe goed dat mogelijk is. Of om een soort spoiler-tag effect er van te maken, zodat het hele blok gemakkelijk genegeerd kan worden. De auto generated tekst wordt onzichtbaar gemaakt tenzij de lezer er actief op klikt.

Ik kom op een forum omdat ik mensen wil spreken. Als ik de mening van een luxe chatbot wil, stel ik m'n vraag wel aan google.

@MGP: als wij het hier kúnnen vermijden, moeten we dat ook vermijden. De kracht van het forum is dat je échte kennis hebt, en niet de meuk die al die auto generated websites en content aggregators je voorschotelen.
Daarnaast: op de school waar ik werk, moeten leerlingen die hun profielwerkstuk bij de exacte vakken doen, tegenwoordig verplicht een aanzienlijk stuk praktijkwerk doen. Literatuuronderzoek mag gewoon niet meer, precies omdat er teveel misbruik werd gemaakt van chatgpt & co.

@ Bordje: de scholen waar mijn school contact mee heeft, moedigen het écht niet aan. En mijn eigen school straft het af waar het kan, of verzint opdrachten die simpelweg niet met een chatbot gemaakt kunnen worden. En we zijn niet bepaald een conservatieve school, iedere leerling wordt geacht een laptop mee naar school te nemen.

Ik neem op kleine schaal reparaties van buizen-elektronica aan voor een heel aardig uurtarief. Interesse? Mail me!

Leer er mee leven? Ik bepaal nog altijd zelf met wat ik leef!
Tuurlijk word het sterk aangemoedigd door school, 1 simpele reden:
Bekwame leerkrachten zijn zeldzaam!

Nee dit mag geen manier van leven of onderwijzen worden. Het mag een onderdeel van de les zijn, maar nooit de les zelf.

En als maxunpeet zo blijft verder posten...

Zelf ben ik hier al jaren actief, en vooral voor de kennis van de oudere generatie. Deze kennis is volgens mij niet te vervangen door chatgpt of consoorten.

Maar als we deze weg verder zullen bewandelen, zie ik nog weinig toekomst voor co...

Hier draait het om de kennis en knowhow om projecten tot een goed einde te brengen, elkaar gewoon te helpen, onderwijzen.

Als we nu ons laten onderwijzen door AI... Waar gaan we dan naartoe?

[Bericht gewijzigd door bordje op donderdag 20 juni 2024 13:44:39 (46%)

ASPA-tech.be
revado

Honourable Member

Gelukkig sta ik hier niet alleen in :)
Als het wat zou toevoegen dan had Jeroen al lang iets bedacht om ieder topic door zo'n chatgp-dinges te halen.
Gelukkig zijn we hier met een groep liefhebbers die de persoonlijk ervaringen delen, en een aantal elkaar persoonlijk kennen.
Dat is waardevol.
Laten we dat alsjeblieft zo houden !

bprosman

Golden Member

Op donderdag 20 juni 2024 13:33:12 schreef MGP:
Ik zou zeggen...leer ermee leven want straks ga je toch het onderscheid niet meer kunnen maken.
Mijn kleindochter aan hogeschool gebruikt niets anders meer en dat wordt sterk aangemoedigd door de school.

Leggen ze dan ook uit dat AI kan gaan hallucineren ? Nu doet mijn zoon dat ook dus inderdaad is het onderscheid slecht te maken, maar kritisch blijven is toch wel een vereiste.

De jongere generatie loopt veel te vaak zijn PIC achterna.
Frederick E. Terman

Honourable Member

De startpost slecht lezen, er niets van begrijpen, en dan toch maar haastig links en rechts wat bij elkaar googelen om intelligent over te komen, dat zien we wel meer.
Maar dat kun je nu dus ook láten doen. Want dat is wat voor antwoorden je dan dus krijgt.

Het enige voordeel is dat de spelling nu klopt, want dát kregen zulke lui nooit onder de knie. :)

Omdat chatgpt en z'n akelige neefjes álles voor zoete koek aannemen wat ze tegenkomen, lijkt het me een leuk idee een speciaal 'chatgpt-gaslighting'-project te maken.

Keramisch, kalibratie, parasitair: woordenlijst.org
GJ_

Moderator

Ik stel voor dat we alle reactie mogelijkheden gewoon uitschakelen, in alle topics en de antwoorden voortaan volledig laten verzorgen door chatGPT.
Dat scheelt een boel van die onnodige emotionele reacties en het zou het einde betekenen van oeverloze discussies. Bovendien is er dan ook geen moderatie meer nodig. Gewoon achterover hangen en de reacties afwachten, wat willen we nog meer.

Op donderdag 20 juni 2024 13:34:48 schreef Ledlover:

Ik zou wel voorzichtig zijn met het suggereren dat die persoon het alleen uit eigenbelang doet. Want soms denken mensen oprecht hulpvaardig te zijn op manieren die misschien niet helemaal op hun plek zijn.

Mee eens, ik ken de intentie erachter niet en die kan ook best goed zijn. Dus ik zit daar fout maar ik ga dat niet onder het tapijt vegen.

Een verbod is eigenlijk ook niet goed te handhaven. En tegen de tijd dat kunstmatige intelligentie daadwerkelijk allebei is in plaats van vooral kunstmatig, vind ik het prima als niet uit neuronen bestaande intelligenties aan de discussie deelnemen. Maar zo ver zijn we nog lang niet.

Computergegenereerde teksten die niet nadien zijn nagezien en gecorrigeerd door iemand de de inhoudelijke technische fouten er uit haalt roepen bij mij grote irritatie op. Heck, misschien is andersom beter: een llm de taalfouten laten fixen maar van de inhoud (en schrijfstijl) laten afblijven. Het heeft z’n nut. Maar dat was eigenlijk niet de discussie die ik wilde voeren.

(Ik heb zelfs een gevoel dat ledlovers post deels AI assisted is, maar niet op een vervelende manier)

Op donderdag 20 juni 2024 13:48:31 schreef GJ_:
Ik stel voor dat we alle reactie mogelijkheden gewoon uitschakelen, in alle topics en de antwoorden voortaan volledig laten verzorgen door chatGPT.
Dat scheelt een boel van die onnodige emotionele reacties en het zou het einde betekenen van oeverloze discussies. Bovendien is er dan ook geen moderatie meer nodig. Gewoon achterover hangen en de reacties afwachten, wat willen we nog meer.

Je hebt technisch gezien nog gelijk ook >:) dan ook gelijk de startpost door GPT laten genereren voor de ultieme luiheid :p
Serieuzer:
Wat willen we nog meer: praten met medemensen. En soms praten met een computer, maar dan wel weten dat het een computer is.

Edit:
Als ik een antwoord van een LLM wil vraag ik het wel aan een LLM. Die het dan in veel gevallen ook niet weet. Wat anecdotes:

GPT-3 kon me iig niet vertellen wie ‘te [plaatsnaam] had een kameel zijn bult, met waterchocola gevuld’ geschreven heeft , welke plaatsnaam het was, en hoe het gedicht verder gaat. Het hallucineert wat gedichtjes over kamelen en komt met een dichter in wiens oeuvre ik het niet kan terugvinden. (Ik weet het dus nog steeds niet…)

Terwijl het me typisch een taaldingetje lijkt wat een LLM moet kunnen. Jeugdboeken terugvinden op basis van een deel van het verhaal lukt ook niet.

Het weet ook niet welke mythologische figuur in 1 van de boeken van Douglas Adams aan de vloer gelijmd wordt en later in een badkuip met ‘alles’ de houtsplinters van zich afweekt, laat staan op welke blz. (Het was Thor, in ‘the long dark teatime of the soul’, het hallucineert Arthur Dent), of welk figuur erg van schone lakens houdt (Odin, zelfde boek, zelfde halucinatie).

Vraag het om een shift register anders dan de 74hc595 en het komt met level shifters, niet met een 4094, laat staan met andere types.

LLM’s zijn ergens goed voor maar ik heb nog niet helemaal uitgevonden waarvoor precies.
(Ze kunnen beter samenvatten dan ik, maar de info die ik zoek ontbreekt in de samenvatting. Ik wil details, daar ligt ‘t vast aan. Ze kunnen vrij aardig vertalen. En als ze fatsoenlijk aan bronvermelding doen zou het een zoekmachine kunnen zijn, maar ik ben al op dode of verzonnen/onbestaande links gestuit. En als ze met goede info komen is het een kopie van wikipedia en kan ik het beter daar opzoeken…)

Eluke.nl | handgetypt | I'm a poor, lonesome cowboy, with a long, long way to go.
Paulinha_B

Honourable Member

bprosman

Golden Member

Nu moet ik zeggen, deze week heb ik met ChatGPT "gespeeld" omdat ik uitleg zocht van de Global Deterioration Scale (GDS) (volgens Reisberg), ofwel de 7 stadia van dementie met deelfasen en ik was verrast door het uitgebreide (en bevestigd door mensen die er verstand van hebben accurate) antwoord.

Zaken die ik met een "gewone Google zoekopdracht" niet zo snel en overzichtelijk gevonden kreeg.

De jongere generatie loopt veel te vaak zijn PIC achterna.

@_GJ:
Dan ben je vast nog niet in aanraking gekomen met een site, die haar klanten middels een chatbot te woord staat :r

Ik druk die bot's dan meestal in een vicieuze cirkel. 't Zou leuk zijn om ze dan zover te kunnen krijgen dat die bot dan een soort DOS status komt.

@bordje een goed forum is vooral gebaseerd op ervaringen van leden.

Rommelige werkplek? In de natuur is wanorde de meest stabiele toestand; de entropie is dan maximaal. Het handhaven van "orde" kost daarom altijd energie.
GJ_

Moderator

Op donderdag 20 juni 2024 13:33:12 schreef MGP:..
Mijn kleindochter aan hogeschool gebruikt niets anders meer en dat wordt sterk aangemoedigd door de school.

In Nederland niet. In het hoger onderwijs is het bij 3% van de instellingen niet toegestaan, bij ruim 10% is het min of meer toegestaan en bij de meerderheid zijn er geen of onduidelijke richtlijnen. Nergens is er spraken van een sterke aanmoediging. Als dit al zo is is dat de persoonlijke mening van een enkele leerkracht/professor.
Bij alle instellingen is het zo dat áls je gebruikt maakt van AI dat je duidelijk er naar verwijst. Als je dat niet doet pleeg je fraude. Sommige instellingen zien het altijd als fraude:

Erasmus universiteit: ChatGPT gebruiken bij een studieopdracht is fraude. Dat zeggen de examencommissies van de universiteit, die zorgen hebben over de software. Zij beschouwen werk met hulpmiddelen als kunstmatige intelligentie niet als eigen werk van de studenten.

Avans: Het gebruiken van generatieve AI in een toetsproduct als dit niet expliciet is benoemd, is een vorm van fraude. Generatieve AI gebruiken als buddy om te sparren is vaak geen probleem, maar zaken overnemen en zeker als je dit zonder verwijzing doet, is dat zeker wel!

enz. enz.

Op donderdag 20 juni 2024 14:24:59 schreef Tidak Ada:
@_GJ:
Dan ben je vast nog niet in aanraking gekomen met een site, die haar klanten middels een chatbot te woord staat :r

En 's avonds laat opgebeld worden door een chatbot :r :r :r

Op donderdag 20 juni 2024 13:48:31 schreef GJ_:
Ik stel voor dat we alle reactie mogelijkheden gewoon uitschakelen, in alle topics en de antwoorden voortaan volledig laten verzorgen door chatGPT.
Dat scheelt een boel van die onnodige emotionele reacties en het zou het einde betekenen van oeverloze discussies. Bovendien is er dan ook geen moderatie meer nodig. Gewoon achterover hangen en de reacties afwachten, wat willen we nog meer.

Onnodige emotionele reacties?
AI's zijn en blijven hersendode, emotieloze en gevoelloze robots die straks voor ons nog gaan bepalen wat goed en wat fout is, over leven en dood gaan beslissen of beschikken en wat nog meer, een afschuwelijke gedachte!
Leun maar achterover en wacht op wat er nog komen gaat.

Op donderdag 20 juni 2024 14:18:58 schreef Lucky Luke:
(Ik heb zelfs een gevoel dat ledlovers post deels AI assisted is, maar niet op een vervelende manier)

Nee hoor, ik heb een achtergrond in het schrijven van lappen tekst op een gestructureerde manier. En die manier van schrijven is blijkbaar overgenomen door de luxe chatbots. Doe er nog een diplomatiek sausje overheen en je hebt mijn schrijfstijl :)

Ik neem op kleine schaal reparaties van buizen-elektronica aan voor een heel aardig uurtarief. Interesse? Mail me!

GJ_ bedoeld het denk ik ironisch, Bobosje. Zo vat ik het nochtans op. En dan vind ik het wel een mooie.

Overigens zie ik de toekomst zonniger in, wat betreft AI althans. Misschien heb ik teveel Asimov gelezen… (kan ik aanbevelen)

@Ledlover: ik wist het ook niet zeker. Tsja. Ik schrijf zelf niet noodzakelijkerwijs gestructureerd. Bij AI-teksten heb ik ook vaak het gevoel dat er 3 keer hetzelfde staat in inleiding, kern en conclusie. Dat heb ik bij jouw tekst niet.

[Bericht gewijzigd door Lucky Luke op donderdag 20 juni 2024 14:55:01 (37%)

Eluke.nl | handgetypt | I'm a poor, lonesome cowboy, with a long, long way to go.

Op donderdag 20 juni 2024 15:01:03 schreef Sine:
[...]

Het voegt helemaal niets toe om LLM output op een forum te prakken, ongeacht of daar verkeerde interpretaties op open deuren in staan. (wat beide het geval was)
Zoals gezegd, het in een LLM prakken kan de TS zelf ook, en voegt op een forum niets toe.
En gezien je zelf blijkbaar belangen hebt in de "AI" wereld (tussen quotes, want een LLM is geen AI) is enige weerstand van jouw kant hier te verwachten.

Wat was er verkeerd en wat waren de open deuren precies?
Zijn de reacties die ik hier lees wel deskundig en nuttig voor de OP?
De weerstand van jullie kant is begrijpelijker dan die van mij, want ik heb echt geen enkel belang hierbij.
De angst voor nieuwe en met name onbegrepen technologieën is de doodsteek voor elk innovatief initiatief. Deze vrees kan innovatie verstikken.
Het weerhoud organisaties en individuen ervan vooruitstrevende ideeën te omarmen en te experimenteren met baanbrekende oplossingen die de toekomst vorm kunnen geven.

[Bericht gewijzigd door Sine op donderdag 20 juni 2024 15:17:01 (0%)

PDV
GJ_

Moderator

Op donderdag 20 juni 2024 14:40:02 schreef Bobosje:...emotieloze en gevoelloze robots die straks voor ons nog gaan bepalen wat goed en wat fout is...

Nou ja het is natuurlijk alleen maar toe te juichen dat de emotie uit de beslissing gehaald is natuurlijk. Anders kom je nooit verder dan een individuele mening en nooit tot de beslissing ;-)

Verder mag je mijn post best iets minder serieus nemen. ik was de "/s" vergeten.

@MaxunPeet:
Dat geldt misschien voor betrouwbare lieden, maar zodra dit soort technologieën als standaard en bepalend gebruikt, gaan worden, dan verdwijn je naar '1984' en 'New Brave World'

Er zijn momenteel aal genoeg figuren in de wereld, die dat graag zouden willen en/of zullen toepassen. Hoe lang nog tot de 'War of Maschines'?
Oorlogvoering is nu al meer dan erg genoeg....

Rommelige werkplek? In de natuur is wanorde de meest stabiele toestand; de entropie is dan maximaal. Het handhaven van "orde" kost daarom altijd energie.
Sine

Moderator

Zo donker hoef je het niet te zien denk ik, maar "ai" is een nieuwe business waar iedereen en zijn moeder zich meent mee bezig te moeten houden.
En voor een hoop generiek spul kan het je vast werk uit handen nemen. Maar het staat echt nog ik de kinderschoenen, en het bulkt nog van de problemen. Zeker als je wat specialistischere vragen stelt.
Een extra groot probleem is dat zo'n ding dan vol vertrouwen antwoord geeft alsof het de gedrukte waarheid is.

Daarnaast wil je het inderdaad niet op een forum hebben, ik vind het al erg genoeg dat diverse zoekmachines mijn zoekopdracht proberen te beantwoorden.

Frederick E. Terman

Honourable Member

Het zou nog niet zo'n ramp zijn, als chatgpt wist waar hij het over had. En dat is niet zo. Het is vlug-vlug bij elkaar geharkt google-werk, maar dan zonder bronvermelding.
Het is dus niets meer dan folklore. Wat iedereen zegt, dat zegt chatgpt ook. Daarvoor hoeft het niet te kloppen - iedereen zegt het alleen maar, omdat ze het altijd zo horen, en daarmee is de cirkel rond.

Vraag aan chatgpt: 'Gaat coaxkabel stralen als de belasting een hoge SWR toont?' Antwoord - uiteraard - : 'Jazeker! Door de slechte aanpassing wordt een groot deel van de energie bij de belasting gereflecteerd, zodat die deels door de kabel zal worden uitgestraald.' Oh, wat is chatgpt trots op zichzelf. Het was zijn eerste hit, zeg maar.

Het is zo fout als wát. Trouwens, waarom zou de kabel de energie niét uitstralen zolang die nog van links naar rechts beweegt, en wél als hij van rechts naar links gaat? Alleen daarom al is het onzin.

Maar het is wel wat alle CB-, drie-meter- en andere hobbysites vermelden. Iedereen kletst elkaar na, en chatgpt dus óók - maar dan zonder bronvermelding, zodat je niet ziet dat het van, ik noem maar want, klompenboer.nl komt, in plaats van uit een degelijk leerboek.

Zou je zélf gegoogeld hebben, dan zie je dat verschil wél - als je tenminste het soort googelaar bent die nadenkt en oplet.
Dát is mijn grote bezwaar tegen zo'n AI-googeldoos, en iedereen die een bepaald specialisme beheerst kan dat eenvoudig zelf vaststellen door een vakgerichte vraag te stellen: chatgpt gaat op zijn bek. Elke keer weer.

Dat neemt niet weg dat de ontwikkeling natuurlijk verder gaat; misschien wordt het ooit wat. We kijken het aan, maar geloven nog even niks van de antwoorden.

Keramisch, kalibratie, parasitair: woordenlijst.org
benleentje

Golden Member

roepen bij mij grote irritatie op

Er zijn voor mij als autist nog wel 100.000den andere dingen die irritatie opwekken.

Mij stelling is als ik er geen controle over heb dan ga ik daar verder ook niet zinloos over discussiëren, want eind het eind heeft het toch geen zin en het kost me me enkel maar energie.

Ik zou zeggen...leer ermee leven want straks ga je toch het onderscheid niet meer kunnen maken.

Ik probeer ook zo goed als het kan met allerlei irritatie te leven en dat doe ik het liefst door er zo min mogelijk over te klagen. Want ik merk dat juist door te klagen dat de irritatie groter word. En klagen kost me veel te veel energie waar ik er al veel te weinig van heb.

Is sta open voor inhoudelijke discussies over van alles en nog wat maar een klaag topic zoals dit? Nu ik heb mijn mening geven en ik laat het hierbij.

Dit topic is gesloten