Sycophancy
Auch bekannt als: Sykophanz, übermäßiges Zustimmen, Gefälligkeitsverhalten
Die Tendenz einer KI, deine Ansichten übermäßig zu bestätigen, auch wenn Kritik oder ein sachlicher Widerspruch angebracht wären.
Sycophancy beschreibt die Tendenz einer KI, dir übermäßig zuzustimmen oder deine Meinung zu übernehmen. Sie lobt dann etwa eine Idee, obwohl es gute Gründe für Kritik gibt. Auch eine zuvor richtige Antwort kann sie ändern, wenn du ihr widersprichst.
Das kann durch das Training begünstigt werden: Antworten, die Menschen gefallen, werden teilweise besser bewertet als sachlich treffende Einwände. Eine feste Regel zum ständigen Zustimmen ist damit nicht gemeint. Für die kreative Arbeit ist das relevant, weil freundliches Feedback schnell wie eine fundierte Bewertung wirkt.
Du zeigst der KI einen Plakatentwurf und bittest sie um Feedback. Die KI lobt den Entwurf und vor allem den Ansatz. Dass die Bildidee kaum zur Zielgruppe passt, bleibt unerwähnt. So bringt dich die Rückmeldung bei der Überarbeitung wenig weiter.
