Skip to main content

Sefydliad Arloesedd Diogelwch Troseddu a Chudd-wybodaethSefydliadau Arloesedd ac Ymchwil y Brifysgol

Gwybodaeth ffynhonnell agored yn erbyn twyllwybodaeth: y ‘ras arfau’ bygythiadau gwybodaeth

10 Hydref 2024

 

Yn y blog hwn, mae arbenigwyr o’r Sefydliad Diogelwch, Trosedd ac Arloesi Cudd-wybodaeth yn archwilio’r cydadwaith rhwng wybodaeth ffynhonnell agored (OSINT) a thwyllwybodaeth i daflu goleuni ar sut maen nhw’n gyrru arloesiadau hanfodol yn nhrefniadaeth ac ymddygiad ei gilydd.

Mae twyllwybodaeth wedi dod i’r amlwg fel problem polisi cymhellol dros y degawd diwethaf. Ers darganfod bod Asiantaeth Ymchwil Rhyngrwyd St. Petersburg wedi ceisio ymyrryd yn etholiad Arlywyddol yr Unol Daleithiau yn 2016, mae astudiaethau lluosog wedi dogfennu amrywiaeth o gyfathrebiadau sy’n trosglwyddo twyllwyboaeth sy’n camliwio gwybodaeth gan arwain dealltwriaeth y cyhoedd a gwneud penderfyniadau gwleidyddol ar draws meysydd polisi. Mae’r rhain yn cynnwys etholiadau democrataidd, argyfyngau iechyd cyhoeddus, newid yn yr hinsawdd, gwrthderfysgaeth, a rhyfela, ymhlith eraill. Mae’r ‘datguddio’ twyllwybodaeth yn gyhoeddus yn aml yn dibynnu ar ystod o ddulliau a thechnegau a labelir gyda’i gilydd fel ‘OSINT’, neu wybodaeth ffynhonnell agored.

Mae twyllwybodaeth yn golygu cyfathrebu a gynlluniwyd ac a gyflwynwyd yn fwriadol i gamarwain. Mae’n cyd-fynd yn agos â sawl cysyniad sy’n gorgyffwrdd, gan gynnwys ‘twyllwybodaeth’ (negeseuon camarweiniol anfwriadol), propaganda, a damcaniaethau cynllwyn. Nid yw pryderon am achosion a chanlyniadau cyfathrebu cyhoeddus camarweiniol yn newydd – defnyddiwyd y term twyllwybodaeth yn yr 17eg ganrif yng nghyd-destun Rhyfel Cartref Lloegr, ac aeth George Orwell i’r afael â’i dylanwad wrth ysgrifennu am Ryfel Cartref Sbaen yn y 1930au. Y gwahaniaeth allweddol heddiw yw bod ein hamgylchedd gwybodaeth yn galluogi cyfathrebiadau camarweiniol, ond hynod berswadiol, i’w trosglwyddo a’u derbyn ar gyflymder a graddfa na ellid ei dychmygu o’r blaen. O ganlyniad, mae twyllwybodaeth yn elfen bwysig o weithrediadau gwybodaeth gwladwriaeth elyniaethus ac ymgyrchoedd dylanwad tebyg gan actorion nad ydynt yn wladwriaethau.

Gan fod twyllwybodaeth ac OSINT yn nodweddion amlwg o’r amgylchedd gwybodaeth gyfoes, mae’n syndod nad yw mwy o sylw wedi cael ei roi i’r ffordd y maent yn rhyngweithio. Yn hytrach, mae llawer o hanesion empirig (o ansawdd amrywiol a soffistigedigrwydd) bellach yn disgrifio gweithrediadau gwybodaeth amrywiol ac ymgyrchoedd twyllwybodaeth. Fodd bynnag, mae’r rhain i raddau helaeth ar wahân i nifer cynyddol o lyfrau ar grefft casglu a dadansoddi gwybodaeth ffynhonnell agored.

Mae prosesau cydgynhyrchu diddorol ynghylch sut mae twyllwybodaeth ac OSINT yn achosi arloesiadau yn ei gilydd. Mae yna fath o ‘ras arfau’ rhwng dadansoddwyr OSINT ac awduron twyllwybodaeth. Mae cynhyrchwyr cyfathrebu twyllodrus sy’n trosglwyddo twyllwybodaeth ac yn camliwio yn ceisio llunio negeseuon sy’n cyrraedd ac yn cael effaith ar eu targedau, ond sy’n cuddio eu gwreiddiau ac yn goresgyn unrhyw ymgais i’w hatal ar eu ffordd. Yn y cyfamser, mae’r gymuned dadansoddwyr ffynhonnell agored yn ceisio ffurfweddu methodolegau sy’n gwneud y mwyaf o’r siawns o ddarganfod negeseuon camarweiniol a phriodoli ffynonellau’n hyderus.

Yna mae dawns barhaus o bwynt a gwrthbwynt wrth i bob ochr geisio trechu ac rhagori ar y llall. Y canlyniad yw bod twyllwybodaeth yn esblygu’n aml ac yn addasu, gan geisio dod o hyd i gyfleoedd newydd ar gyfer dylanwad adwythig wrth osgoi’r amddiffynfeydd a godwyd yn ei erbyn. Mae arwyddocâd hyn yn ddeublyg. Yn gyntaf, er bod trafodaeth gyhoeddus a gwleidyddol ynghylch twyllwybodaeth yn canolbwyntio ar rôl y cyfryngau cymdeithasol, mae fectorau eraill y gellir eu defnyddio i’w throsglwyddo a’i derbyn. Yn ail, fel yr awgrymwyd uchod, gall argyfyngau fel y rhyfel yn Wcráin weithredu fel crwsibl o arloesi, gan ysgogi datblygiadau cyflym a sylweddol mewn cyfathrebu twyllodrus. Rydym yn archwilio dwy enghraifft o’r ddeinameg hon yn fyr.

Ffug negeseuon AIS

System sy’n seiliedig ar radio yw System Adnabod Awtomatig (AIS) a gynlluniwyd i rybuddio llongau am longau eraill yn eu hardal, gan atal gwrthdrawiadau oherwydd gwelededd gwael. Mae transbonder AIS yn derbyn data gan GPS i ddarlledu safle’r llong wrth dderbyn negeseuon tebyg gan dransbonderau AIS ar longau eraill yn yr ardal, gan ganiatáu i’r holl longau a’u penawdau gael eu plotio ar fap. Mae cydgasglwyr traffig morol ffynhonnell agored fel Traffig Morol a Darganfyddwr Cychod yn defnyddio negeseuon transbonderau AIS i greu mapiau byd-eang amser real o symudiadau llongau. I wneud hyn, maent yn dibynnu ar wirfoddolwyr yn codi antenâu ar yr arfordir i dderbyn signalau AIS gan longau sy’n mynd heibio, sy’n cael eu datgodio gan gyfrifiadur a’u llwytho i fyny i’r wefan. Nid yw AIS wedi’i amgryptio ac ni chafodd ei ddylunio gyda diogelwch mewn golwg. O’r herwydd, gellir dynwared signalau AIS, gan arwain at ddata AIS anghywir neu rai a aiff ar goll.

Ar 19 Mehefin 2021, cofnodwyd dwy long ryfel NATO ar Draffig Morol yn gadael Odesa yng nghanol y nos a hwylio i’r Crimea, gan ddod o fewn milltiroedd i ganolfan lyngesol Rwsia Sevastopol sy’n hanfodol yn strategol. Achosodd hyn lu o weithgaredd cyfryngau cymdeithasol wrth i wegamerau o Odesa ddangos nad oedd y ddwy long erioed wedi gadael y porthladd, gan olygu bod rhywun wedi creu traciau AIS ffug i dwyllo defnyddwyr OSINT Traffig Morol i gredu bod NATO wedi torri diogelwch Rwsia.

Roedd straeon mewn allfeydd cyfryngau prif ffrwd am y bennod hon yn honni bod Rwsia wedi dynwared data AIS; lansio ymosodiad seiber GPS; gosod trosglwyddydd AIS ysgeler gerllaw; neu ymyrryd â’r GPS. Fodd bynnag, camddeallodd llawer o’r rhain sut mae AIS yn gweithio a sut mae’n ymwneud â gwefannau olrhain ffynhonnell agored fel math ar system gymdeithasol-dechnegol. Mae Traffig Morol yn ei gwneud hi’n hawdd i wirfoddolwyr gyflwyno adroddiad data fel y gall unrhyw un, unrhyw le yn y byd, gyflwyno data. Fodd bynnag, nid yw adroddiadau o’r fath yn cael eu gwirio, ac nid yw’r ffaith bod rhywbeth yn cael ei arddangos ar y wefan yn golygu ei fod yn digwydd yn y byd ffisegol. Er bod llawer o’r arbenigwyr a nodwyd yn y cyfryngau wedi trafod soffistigedigrwydd technegol y systemau dan sylw, fe wnaethant golli’r gwendidau cymharol hawdd eu trin i hau twyllwybodaeth arnynt ar adegau sy’n sensitif o ran amser.

Y pwynt ehangach, fodd bynnag, yw nad yw ffynonellau twyllwybodaeth dylanwadol yn yr amgylchedd gwybodaeth gyfoes yn gyfyngedig i’r cyfryngau ac i’r cyfryngau cymdeithasol yn unig. O ganlyniad, mae angen i’r gymuned OSINT ehangu eu radar a’u pecyn cymorth ar gyfer canfod gwendidau a chamfanteisio posibl.

Deallusrwydd Artiffisial a Ffugiadau Dwfn

Yn dilyn goresgyniad Rwsia, rhybuddiodd swyddogion Wcráin yn gyhoeddus y gallai gwrthwynebwyr fod yn paratoi fideo ffugiad dwfn o’r Arlywydd Zelensky yn cyhoeddi ei fod yn ildio. Ar y pryd, nid oedd yn glir a oedd hyn yn dyfalu neu’n seiliedig ar gudd-wybodaeth gredadwy. Fodd bynnag, lai na phythefnos yn ddiweddarach, roedd fideo yn cylchredeg ar sawl platfform cyfryngau cymdeithasol yn dangos ‘Zelensky’ yn siarad yn uniongyrchol â’r camera. Er bod y driniaeth yn gymharol ansoffistigedig ac yn hawdd ei weld, credir mai hwn yw’r defnydd arf cyntaf o ffugiad dwfn yn ystod gwrthdaro arfog.

Tynnodd platfformau cyfryngau cymdeithasol y fideo yn groes i bolisïau ar y defnydd twyllodrus o gyfryngau synthetig, a gwnaeth Zelensky eu ddiarddel yn gyflym. Roedd amseriad cynnar ei ryddhau, ei neges ganolog, “rhowch eich arfau i lawr a dychwelyd at eich teuluoedd… Dw i’n mynd i wneud yr un peth” yn amlwg wedi’i fwriadu i golli cysylltiad â’r amgylchedd ac achosi panig ac amheuaeth. Roedd yn cyd-fodoli â thwyllwyobodaeth a oedd yn dod oddi wrth swyddogion Rwsia fod Zelensky wedi ffoi o’r wlad, yn groes i ddefnydd hynod effeithiol Zelensky ei hun o gyfryngau cymdeithasol i ddarlledu fideos ‘prawf bywyd’ o ganol Kyiv, y diwrnod ar ôl i Rwsia ymosod.

Mae ffugiadau dwfn ar flaen y gad ym maes deallusrwydd artiffisial (AI) a gall algorithmau dysgu peiriannol greu delwedd a newidiwyd yn ddigidol o unigolyn gan ddefnyddio deunydd a geir ar-lein. Hefyd, ym mis Mawrth 2022 defnyddiodd Putin clipiau ffugiad dwfn o’i anerchiad Llywyddol ar y teledu, gan ychwanegu sain newydd i wneud iddo ymddangos ei fod yn ildio i Wcráin. Roedd yn ansawdd mor wael a geiriau Putin mor anghredadwy bod cred eang ymhlith cynulleidfaoedd mai dychan ydoedd, ond mae’n sicr y bydd gallu ac arbenigedd technolegol yn datblygu’n gyflym i herio gallu dynol i ddirnad beth sy’n real a beth sy’n ffug. Am wers mewn pa mor gyflym mae technolegau AI yn esblygu ac yn dod yn hygyrch ac amlbwrpas eang, does dim angen edrych ymhellach na ChatGPT. Dim ond ar ddiwedd 2022 y lansiwyd y bot sgwrsio model iaith mawr hwn, ond mae dros 100 miliwn o ddefnyddwyr wedi ei holi at lawer o wahanol ddibenion, rhai yn fwy mileinig nag eraill.

Yn nwylo actorion adwythig (malign), gall technolegau fel technolegau a gynorthwyir gan AI greu llif cyfaint uchel o dwyllwybodaeth rymus. Defnyddiwyd offeryn ysgrifennu gyda chymorth AI yn ddiweddar i gynhyrchu dyfyniadau camarweiniol mewn erthygl gwefan newyddion am arweinydd gwrthblaid yn Rwsia, Alexei Navalny, er enghraifft. Bydd cynhyrchu testun awtomataidd yn hwyluso creu cyfrifon cyfryngau cymdeithasol torfol sy’n edrych yn fwy dilys i ddefnyddwyr, ac mae’n ymddangos yn anochel y bydd twyllwybodaeth weledol ar ffurf ffugiadau dwfn (deep fakes) yn cael ei defnyddio gyda thechnegau rhyfela â gwybodaeth eraill, megis hacio. Bydd y canlyniadau’n gwaethygu tensiynau cymdeithasol ar adegau tyngedfennol mewn rhyfel neu mewn etholiadau, gan niweidio hygrededd ei dargedau. Bydd hyd yn oed cyfaint cynyddol o dechnegau trin cyfryngau o ansawdd gwael, sy’n haws eu cyrraedd (does dim angen mwy na meddalwedd golygu sylfaenol ar gyfer ‘ffugiadau bas’ – ‘shallowfakes’) yn erydu ymddiriedaeth y cyhoedd yn y cyfryngau newyddion.

Casgliad

Mae’r dulliau y mae twyllwybodaeth yn cael ei hysgrifennu a’i chwyddo yn esblygu’n gyflym ac yn ymaddasu. Mae pryder dealladwy y bydd offer a thechnolegau newydd yn galluogi cynhyrchu negeseuon ffug a chamarweiniol ar gyflymder a graddfa a fydd yn llethu ein gallu i amddiffyn gwybodaeth. Mae hefyd yn destun pryder ei bod yn ymddangos bod niferoedd cynyddol o actorion, y wladwriaeth a’r rhai nad ydynt yn wladwriaeth, yn gweld trin gwybodaeth fel tacteg allweddol a thechneg ar gyfer sicrhau dylanwad digidol yn yr oes wybodaeth. Yn 2024 mae etholiadau pwysig i’w cynnal ledled y DU, yr Unol Daleithiau, Rwsia a’r Undeb Ewropeaidd, ymhlith eraill. Mae’n hanfodol ac yn fater o frys ystyried sut y gellir ail-sefyll dulliau OSINT a’u ‘hailarfogi’ yn erbyn bygythiadau twyllwybodaeth yn y dyfodol, i liniaru neu arafu’r cynnydd hwn.

 

Ymddangosodd y blog hwn yn wreiddiol yn yr 17eg rhifyn o Security Review CREST ‘Misinformation’.

Awduron:

Mae Dr Helen Innes yn Gymrawd Ymchwil yn y Sefydliad Arloesi Diogelwch, Trosedd a Chudd-wybodaeth. Mae ei gwaith yn adnabod ac yn dadansoddi ymgyrchoedd twyllwybodaeth a gweithrediadau gwybodaeth gwladwriaethau tramor yn cyfrannu at y Rhaglen Ymchwil Gwybodaeth Dwyllodrus, Cyfathrebu Strategol a Ffynhonnell Agored.

Mae Andrew Dawson yn Gydymaith Ymchwil yn y Sefydliad Arloesedd Diogelwch, Trosedd a Chudd-wybodaeth. Mae ei waith yn rhychwantu pynciau fel Adnabod Wynebau Awtomataidd, terfysgaeth, a’r Asiantaeth Ymchwil Rhyngrwyd (Internet Research Agency). Mae ei waith diweddar yn canolbwyntio ar fanteisio ar Wybodaeth Ffynhonnell Agored ar gyfer y Rhaglen Ymchwil Twyllwybodaeth, Cyfathrebu Strategol a Ffynhonnell Agored.

Yr Athro Martin Innes yw Cyd-Gyfarwyddwr y Sefydliad Arloesedd Diogelwch, Trosedd a Chudd-wybodaeth. Mae ei waith ar blismona, gwrthderfysgaeth, a thwyllwybodaeth wedi bod yn ddylanwadol yn rhyngwladol ar draws y cymunedau academaidd, polisi ac ymarfer.