[et_pb_section fb_built=“1″ _builder_version=“4.16″ da_disable_devices=“off|off|off“ global_colors_info=“{}“ da_is_popup=“off“ da_exit_intent=“off“ da_has_close=“on“ da_alt_close=“off“ da_dark_close=“off“ da_not_modal=“on“ da_is_singular=“off“ da_with_loader=“off“ da_has_shadow=“on“][et_pb_row _builder_version=“4.16″ background_size=“initial“ background_position=“top_left“ background_repeat=“repeat“ global_colors_info=“{}“][et_pb_column type=“4_4″ _builder_version=“4.16″ custom_padding=“|||“ global_colors_info=“{}“ custom_padding__hover=“|||“][et_pb_text _builder_version=“4.27.4″ background_size=“initial“ background_position=“top_left“ background_repeat=“repeat“ hover_enabled=“0″ global_colors_info=“{}“ sticky_enabled=“0″]<\/p>\n
Nach der anf\u00e4nglichen Begeisterung ist das erste Gef\u00fchl, das die ChatGPT-Experimentatoren \u00fcberkommt, \u2026 Ern\u00fcchterung angesichts der Masse an falschen Informationen, die man ihn mit v\u00f6lliger Souver\u00e4nit\u00e4t vortragen sieht, um sein Gegen\u00fcber zufrieden zu stellen (https:\/\/www.numerama.com\/tech\/1251982-ne-faites-pas-confiance-a-chatgpt-il-ment-tout-le-temps.html). Erinnert sei auch an das kostspielige Fiasko von Googles Bard-Demo \u00fcber das angeblich erste Foto eines Exoplaneten durch das James-Webb-Teleskop \u2026 das nicht von ihm stammt (https:\/\/www.bbc.com\/news\/business-64576225<\/a>).<\/p>\n Den von KI-Algorithmen erzeugten, unbeabsichtigten Falschmeldungen k\u00f6nnte man die weitaus beunruhigenderen Horden von Deepfakes (https:\/\/fr.wikipedia.org\/wiki\/Deepfake<\/a>) gegen\u00fcberstellen, die die Gefahr bergen, dass \u201eFake News\u201c von kleineren \u00c4rgernissen zu Waffen der Massenvernichtung werden; man denke nur an das bekannte Beispiel von Barak Obama, der Beleidigungen gegen Donald Trump deklamiert.<\/p>\n Was Twitter betrifft, so tr\u00e4gt das Scheitern des \u201eblauen Abzeichens\u201c, das es jedem erm\u00f6glicht, eine falsche Identit\u00e4t anzunehmen, weil es nicht verifiziert wird, zum langen Niedergang der Plattform bei (https:\/\/www.slate.fr\/story\/241904\/service-premium-twitter-blue-elon-musk-echec-abonnement-payant-badge-bleu-certification-reseau-social<\/a>).<\/p>\n Welche Gemeinsamkeit kann man bei diesen Problemen hervorheben? Das Vertrauen in die Quelle. Im Fall der falschen Aussagen von ChatGPT wird der Sender der Information nicht identifiziert. Im Fall der Deepfakes wird versucht, die Identit\u00e4t dieses Senders zu \u00fcbernehmen. Bei Twitter wird der Anschein erweckt, dass die Identit\u00e4t garantiert ist, ohne dass eine tats\u00e4chliche \u00dcberpr\u00fcfung stattfindet.<\/p>\n Ein Mittel zu haben, um die Quelle einer Information oder eines digitalen Inhalts zuverl\u00e4ssig und sicher zu authentifizieren, ist ein schwieriges Thema, das Archivaren seit langem bekannt ist und insbesondere in der eIDAS-Verordnung (https:\/\/www.ssi.gouv.fr\/administration\/reglementation\/confiance-numerique\/le-reglement-eidas\/#:~:text=Le%20r%C3%A8glement%20eIDAS%20s\u2019applique,march%C3%A9%20de%20la%20confiance%20num%C3%A9rique<\/a>) behandelt wird. Dies geht von einer einfachen Feststellung aus: Elektronische Dokumente zu archivieren ist gut, sie w\u00e4hrend der Archivierung elektronisch zu signieren ist besser, aber ihre Authentizit\u00e4t vor der Archivierung zu \u00fcberpr\u00fcfen, ist noch besser! Hier kommt der komplexe Prozess der \u00dcberpr\u00fcfung elektronischer Signaturen ins Spiel, der beispielsweise auch die Pr\u00fcfung auf nicht widerrufene Zertifikate umfasst, die vor der Archivierung eines Dokuments praktiziert werden muss.<\/p>\n Dieses Thema ist jedoch voller Paradoxien. Ich m\u00f6chte diesen Absatz aus der Studie \u201eInt\u00e9grit\u00e9, signature et processus d\u2019archivage\u201c von Fran\u00e7oise Banat-Berger und Anne Canteaut (https:\/\/www.rocq.inria.fr\/secret\/Anne.Canteaut\/Publications\/BaCa07.pdf<\/a>) zitieren, der mich besonders beeindruckt hat:<\/p>\n \u201eVerlangt man heute von einem Archivar, die handschriftlichen Unterschriften auf den Dokumenten, die er erh\u00e4lt, zu \u00fcberpr\u00fcfen? Was man vom Archivar verlangt, ist, den Archivierungsprozess zu garantieren, paradoxerweise auch f\u00fcr Dokumente, die angeblich gef\u00e4lscht sind: Der Archivar muss beweisen k\u00f6nnen, dass er perfekt gef\u00e4lschte Dokumente aufbewahrt hat!\u201c<\/em><\/p>\n Um auf unsere Parallele zu ChatGPT oder Deep Fakes zur\u00fcckzukommen: Es w\u00fcrde darum gehen, f\u00e4lschungssicher zu beweisen, dass die gegebenen Informationen tats\u00e4chlich von der NASA stammen oder dass das Video von Barak Obama den tats\u00e4chlichen Pr\u00e4sidenten der USA zeigt (hier sei auf den Artikel \u201eProtecting World Leaders Against Deep Fakes\u201c verwiesen, in dem eine Erkennungsl\u00f6sung auf der Grundlage einer biometrischen Signatur von Personen erw\u00e4hnt wird :https:\/\/openaccess.thecvf.com\/content_CVPRW_2019\/papers\/Media%20Forensics\/Agarwal_Protecting_World_Leaders_Against_Deep_Fakes_CVPRW_2019_paper.pdf<\/a>). Der Zertifikatskettenmechanismus der elektronischen Signatur k\u00f6nnte sehr wohl eine Inspirationsquelle sein!<\/p>\n Nehmen wir an, dass wir das Problem der Authentizit\u00e4t gel\u00f6st haben. Genau wie bei Archiven bedeutet die Authentifizierung einer Quelle nicht, dass diese Quelle wahrheitsgem\u00e4\u00dfe Aussagen gemacht hat. Die Grenzen des \u201eAutorit\u00e4tsarguments\u201c sind bekannt. So gibt es so viele Nobelpreistr\u00e4ger, die in haarstr\u00e4ubende Theorien oder Pseudowissenschaften \u201eabrutschten\u201c, dass sie unter dem Begriff \u201eNobelkrankheit\u201c zusammengefasst wurden (https:\/\/www.lalibre.be\/planete\/sciences-espace\/2022\/02\/10\/la-maladie-du-nobel-quand-les-scientifiques-deraillent-UZ32J66SORBJ5MSWMXYKKISPJI\/<\/a>).<\/p>\n Es geht also darum, diesen Nachweis der Authentizit\u00e4t, dessen Mechanismus noch aufgebaut werden m\u00fcsste, durch einen Nachweis der Wahrhaftigkeit zu erg\u00e4nzen. Das \u201efact checking\u201c w\u00e4re ein Baustein dazu. Allerdings muss man sich bewusst sein, dass die Wissenschaft des \u201everacity assessment\u201c noch in den Kinderschuhen steckt (wie in der Ver\u00f6ffentlichung https:\/\/www.sciencedirect.com\/science\/article\/pii\/S0167923619301617 betont wird). Im Gegensatz zur elektronischen Signatur ist dies kein Aspekt, der die Produzenten digitaler Archive noch zu besch\u00e4ftigen scheint. Aber wie lange noch?<\/p>\n Ein weiterer m\u00f6glicher Ansatzpunkt ist die menschliche Kontrolle bei der Vorlage des Archivs. Hier k\u00f6nnte das Konzept des Input-Workflows eine Rolle spielen, der den Eintritt in das Archivierungssystem nur dann erlaubt, wenn ein menschlicher Validator das Archiv explizit akzeptiert hat.<\/p>\n Es ist ein Traum, dass sich im Bereich der digitalen Informationen allm\u00e4hlich eine fruchtbare Synergie zum Thema Vertrauen entwickelt. Vielleicht ist dies sogar die Voraussetzung f\u00fcr das \u00dcberleben des Sektors!<\/p>\n [\/et_pb_text][\/et_pb_column][\/et_pb_row][et_pb_row column_structure=“1_2,1_2″ admin_label=“CTA DE“ _builder_version=“4.27.4″ _module_preset=“default“ module_alignment=“center“ custom_margin=“2%||||false|false“ custom_padding=“|2%||2%|false|false“ border_width_all=“2px“ border_color_all=“#2EA3F2″ locked=“off“ global_colors_info=“{}“][et_pb_column type=“1_2″ _builder_version=“4.27.4″ _module_preset=“default“ global_colors_info=“{}“][et_pb_text _builder_version=“4.27.4″ _module_preset=“default“ global_colors_info=“{}“]<\/p>\n F\u00fcr detaillierte Informationen laden Sie unsere kostenlose technische Dokumentation herunter.<\/strong><\/p>\n [\/et_pb_text][et_pb_button button_url=“https:\/\/infotel-software.com\/de\/dokumentationen\/“ button_text=“Laden Sie die Dokumentation herunter“ button_alignment=“center“ _builder_version=“4.27.4″ _module_preset=“default“ global_colors_info=“{}“][\/et_pb_button][\/et_pb_column][et_pb_column type=“1_2″ _builder_version=“4.27.4″ _module_preset=“default“ global_colors_info=“{}“][et_pb_text _builder_version=“4.27.4″ _module_preset=“default“ global_colors_info=“{}“]<\/p>\n Haben Sie ein Projekt im Sinn? Unsere Experten helfen Ihnen gerne weiter. Klicken Sie unten, um uns zu kontaktieren.<\/strong><\/p>\n [\/et_pb_text][et_pb_button button_url=“https:\/\/infotel-software.com\/de\/kontaktiere-uns\/“ button_text=“Kontaktieren Sie uns“ button_alignment=“center“ _builder_version=“4.27.4″ _module_preset=“default“ global_colors_info=“{}“][\/et_pb_button][\/et_pb_column][\/et_pb_row][\/et_pb_section]<\/p>\n","protected":false},"excerpt":{"rendered":" Nach der anf\u00e4nglichen Begeisterung ist das erste Gef\u00fchl, das die ChatGPT-Experimentatoren \u00fcberkommt, \u2026 Ern\u00fcchterung angesichts der Masse an falschen Informationen, die man ihn mit v\u00f6lliger Souver\u00e4nit\u00e4t vortragen sieht, um sein Gegen\u00fcber zufrieden zu stellen (https:\/\/www.numerama.com\/tech\/1251982-ne-faites-pas-confiance-a-chatgpt-il-ment-tout-le-temps.html). Erinnert sei auch an das kostspielige Fiasko von Googles Bard-Demo \u00fcber das angeblich erste Foto eines Exoplaneten durch das James-Webb-Teleskop […]<\/p>\n","protected":false},"author":2,"featured_media":20298,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_et_pb_use_builder":"on","_et_pb_old_content":" After the initial enthusiasm, the first feeling that seizes those trying their hand at ChatGPT is\u2026 disillusionment, in front of the mass of erroneous information that we see it stating with complete aplomb to satisfy its interlocutor (https:\/\/flyingbisons.com\/blog\/hallucinations-of-chatgpt-4-even-the-most-powerful-tool-has-a-weakness<\/a>). Let us also recall the very expensive fiasco of Google Bard\u2019s demo on the supposed first photo of an exoplanet by the James Webb telescope\u2026 the source of the photo being from elsewhere (https:\/\/www.bbc.com\/news\/business-64576225<\/a>).<\/p> As for the non-intentionally false information generated by AI algorithms, we can stack up hordes of much more worrying deepfakes (https:\/\/en.wikipedia.org\/wiki\/Deepfake<\/a>). These risk the spread of \u201cfake news\u201d from minor nuisances to major destruction. One such known example shows Barak Obama proclaiming insults against Donald Trump.<\/p> As for Twitter (or now X), the failure of the \u201cblue badge\u201d system now allows anyone to usurp an identity due to lack of verification. This is adding to the slow decline of the platform. (https:\/\/slate.com\/technology\/2023\/04\/elon-musk-twitter-blue-check-marks-verification-lebron-james.html<\/a>).<\/p> What common point can we highlight on these issues? That of\u00a0trust in the source<\/strong>. In the case of ChatGPT\u2019s erroneous comments, the sender of the information is not identified. In the case of deepfakes, the identity of the subject is usurped. As for Twitter, it gives the illusion of guaranteeing identity\u2026without any real verification.<\/p> However, having a means of reliably and securely authenticating the source of information or digital content is a thorny subject known for a long time by archivists and notably addressed by the eIDAS regulation: (https:\/\/www.ssi.gouv.fr\/en\/regulation\/digital-confidence\/the-eidas-regulation\/<\/a>). It starts from a simple observation: archiving electronic documents is good, signing them electronically during archiving is better, but checking their authenticity before archiving them is even better! This is where the complex electronic signature verification process comes in, including, for example, checking the non-revocation of certificates, which must be carried out before archiving a document.<\/p> However, this subject is full of paradoxes. Let us quote this paragraph, which particularly struck me, from the study \u201cIntegrity, signature and archiving process\u201d by Fran\u00e7oise Banat-Berger and Anne Canteaut: (https:\/\/www.rocq.inria.fr\/secret\/Anne.Canteaut\/Publications\/BaCa07.pdf<\/a>):<\/p> \u201cDo we today ask an archivist to check the handwritten signatures that appear on the documents he receives? What we ask of the archivist is to guarantee the archiving process, including paradoxically for documents that are forgeries: the archivist must be able to prove that he has perfectly preserved forgeries!\u201d<\/em><\/p> To return to our parallel with ChatGPT or deep fakes, it would be a question of proving in an unfalsifiable way that the information given would indeed come from NASA, or that the video of Barak Obama shows the real president of the USA (we can cite the article \u201cProtecting World Leaders Against Deep Fakes\u201d which discusses a detection solution based on a biometric signature of people:<\/p> https:\/\/openaccess.thecvf.com\/content_CVPRW_2019\/papers\/Media%20Forensics\/Agarwal_Protecting_World_Leaders_Against_Deep_Fakes_CVPRW_2019_paper.pdf<\/a>). The certificate chain mechanism of the electronic signature could very well be a source of inspiration!<\/p> Suppose we have solved the problem of authenticity. Just like the archives, authenticating the source does not mean that this source has made truthful statements. We know the limits of the \u201cargument from authority\u201d. Thus, Nobel Prize winners who have \u201cderailed\u201d towards crazy theories or pseudo-sciences are so numerous that they have been grouped under the term \u201cNobel disease\u201d:\u00a0https:\/\/en.wikipedia.org\/wiki\/Nobel_disease<\/a>).<\/p>