A matematikát és a logikát manapság kevésbé szerencséltetik a hóbortos világmegváltók és csodadoktorok, mint amennyire divatos dolog rákgyógyszereket, fogyasztó csodaszereket, vagy első- és másodfajú örökmozgókat előállítani, esetleg felfedezni nyelvünk és népünk sumer vagy sziriuszi gyökereit. A körnégyszögesítők ideje lejárt, a nagy Fermat-sejtés is bizonyítást nyert, bár az iránta való érdeklődés már jóval előbb lecsengett, a Wolfskehl-díj értékvesztése nyomán. Velem született rosszmájúságom azt súgja, hogy ilyen tényezőknek lehet nagy súlya a jelenségben: egy matematikai csodaeredménytől manapság nem lehet se meggazdagodni, se celebbé válni. Van azonban egy apró kis tétel, ami rendszeresen izgatja arravaló emberek fantáziáját; az illetők se haszonlesőnek, se teljesen dilettánsnak nem mondhatók, de szeretnének valami nagyot dobni, és valamit nem értenek. A tételt Cantor-tételként szokás emlegetni, és annyit mond, hogy nincs kölcsönösen egyértelmű leképezés egy H halmaz és hatványhalmaza, azaz összes részhalmazainak halmaza (pot(H)) között.

Nézzünk először egy rövid kis bizonyítást erre az állításra.

1. Legyen f tetszőleges, H-n értelmezett és pot(H)-ba képező függvény.

2. Tekintsük a következő, H_f halmazt: {x ∈ H: x ∉ f(x)}, azaz H azon elemeinek halmazát, amelyek nem elemei a saját f szerinti képüknek.

4. Mivel 3a. is, 3b. is ellentmondásra vezet, nem lehet olyan y, hogy f(y) = H_f, ezért f nem lehet kölcsönösen egyértelmű (közelebbről: nem lehet ráképezés).

Georg Cantor, a halmazelmélet megalapítója számos, ennél jóval mélyebb és bonyolultabb tétellel gazdagította a matematikát; annak, hogy éppen ez a kis állítás viseli az ő nevét, a jelentősége az oka. Ezen múlik, hogy minden halmaznál van „nagyobb”, a halmazok Cantor által pontosan definiált nagyság szerinti rendezése értelmében. Hiszen a hatványhalmaznak része egy olyan halmaz, amelyik triviálisan ugyanakkora, mint az eredeti H halmaz: H egyelemű részeinek halmaza. Miután az egész pot(H) „ugyanakkora” nem lehet, mint H (a kölcsönösen egyértelmű megfeleltetés értelmében; éppen ezt bizonyítja a Cantor-tétel), marad az, hogy nagyobb. Ezen a szemléletes okfejtésen ugyan jókora lyukak tátonganak, de azok betömhetők és a lényeget mégis jól mutatja.

Annak, hogy a világmegváltói lelkesedés pont a Cantor-tételt pécézi ki folyton, a jelentőségén túl van még egy oka, és ez a Russell-paradoxon levezetése, ami a mi 3. lépésünkhöz döbbenetesen hasonló okfejtéssel, de minden (látható) indirekt feltevés nélkül mutat ki ellentmondást Cantor eredeti (ma úgy mondjuk: naiv) halmazelméletében. Teszi ezt a következőképpen:

2'. Legyen R az a halmaz, amelynek pontosan azok a halmazok az elemei, amelyek nem elemei saját maguknak. Formálisan: R = {h: h ∉ h}.

4'. 3'a is, 3'b is ellentmondás.

Hol a hiba?

Oktatóként magam is tapasztalom, hogy az indirekt érvelések alkalmazása körül még viszonylag magas kulturális és intelligenciaszinten is sok a pszichológiai zavar. Ennek következménye lehet, hogy némelyek a 2-3., illetve 2’-3’. típusú okfejtések egészét hibásnak tartják. Ha tényleg az lenne, az persze cáfolná a Cantor-tételt, de egyúttal a matematika nagy részét is. A Cantor-tétel-cáfolók felszínen sokféle, de alapjában egy rugóra járó okoskodásait szépen mutatja be Wilfrid Hodgesnek, a Journal of Symbolic Logic egykori szerkesztőjének cikke, melyet visszavonulása alkalmából publikált; ő persze bőséges tapasztalati anyagot gyűjtött össze munkája során. De nemrégiben nekem is meggyűlt a bajom egy ilyen esettel. Erről lesz az alábbiakban szó, de előbb hadd lőjem le a poént az előbbi példákban. Természetesen nem a logikai sémával van baj, hanem a 2, ill. 2’. lépést kell megnéznünk kicsit közelebbről.

Honnan vesszük, hogy létezik a H_f, illetve R halmaz? Onnan, hogy a naiv halmazelmélet korlátlanul és hallgatólagosan elfogadta a komprehenzió elvét: azt, hogy tetszőleges tulajdonsággal lehet halmazt definiálni. A naiv halmazelmélet egy történetileg nagyon fontos változatában, Gottlob Frege halmazelméletet is magába olvasztó logikájában a komprehenzió elve tulajdonképpen nem is volt hallgatólagos; amikor Frege megkapta Bertrand Russell levelét, amelyben kimutatta, hogy a fregei logikában formálisan le lehet vezetni a Russell-paradoxont, egy percig nem habozott elismerni, hogy elméletébe be van építve előfeltevésként a komprehenzió elve, és az sem volt számára kétséges, hogy ez okozta a bajt. De maga Cantor is hasonlóan járt el, amikor pár évvel korábban szembesült egy különböző, bár nagyon rokon paradoxonnal: arra a megállapításra jutott, hogy nem minden sokaság alkot halmazt, például az összes halmaz sokasága sem. Valamiféle komprehenzió nélkül természetesen nincsen halmazelmélet, de a kiút a komprehenzió elvének leszűkítésén át vezetett. Ernst Zermelo a halmazelmélet első axiomatizálásában a részhalmaz- vagy szeparációs axiómát vezette be, amely azt mondja ki, hogy egy adott halmazon belül tetszőleges tulajdonság segítségével el lehet különíteni halmazunk azon részhalmazát, amely az illető tulajdonsággal rendelkező elemekből áll. Ez pontosan elég a 2. lépés megtételéhez, hiszen azt eleve feltételeztük, hogy H egy halmaz, H_f-et pedig ebből szeparáltuk el egy jól megválasztott tulajdonság segítségével. 2’. esetében viszont az összes halmaz közül akartuk elkülöníteni az önmagukat elemként nem tartalmazókat. Ez csak akkor volna megengedett, ha az összes halmaz együtt egy halmazt alkotna. Végeredményben az utóbbi, implicit feltételezés következménye az ellentmondás, és így a Russell-paradoxon átmegy annak az állításnak az indirekt bizonyításába, hogy az összes halmaz nem alkot halmazt.

Meg kell jegyeznünk ehhez még két dolgot. Először is, a mai standard halmazelméletben már nem a Zermelo-féle szeparációs axiómát használják, hanem a Fraenkel-féle helyettesítési axiómát, amely jóval erősebb állítás, de még mindig leszűkítése a naiv komprehenziós elvnek. Ezért hívják a standard elméletet Zermelo-Fraenkel-féle halmazelméletnek. Másodszor, nem a fenti az egyetlen módja annak, hogy megszabaduljunk a Russell-paradoxontól. Okoskodásunk informális leírása egy levezetésnek, amely logikailag zárt ugyan, de függ bizonyos, a formális elemzés során napvilágra jutó előfeltevésektől. Lehet úgy is axiomatikus halmazelméletet konstruálni, hogy másképpen gyengítjük a naiv halmazelmélet előfeltevéseit, és így megengedhetjük akár az univerzális halmaz (az összes halmazok halmaza) létezését is; az ellentmondásosság kockázata az ilyen, nem-standard halmazelméletekben nem nagyobb, mint a Zermelo-Fraenkelben.

Most már térjünk vissza a konkrét ügyhöz. Egy konferenciára beadott valaki egy Cantor-tételt cáfoló előadást. Az absztraktból csak annyi derült ki, hogy a cáfolatot akarja elővezetni, de egy érdekes összefüggésben. Nem buta és nem felkészületlen emberről lévén szó, elfogadtuk – úgy gondoltuk, ha nincs is igaza, de talán érdekesen mondja. Az előadás viszont a Hodges-féle példatár gyengébb darabjaira emlékeztetett, így a kiadványban semmiképpen nem akartuk közölni. Az elutasításból immár több hónapos perpatvar lett, és én már csak elhűlve figyelem, hogyan pereg le minden érv egy különben – ismétlem – jól képzett emberről, amikor kedvenc vesszőparipáját próbálják kirángatni alóla. Az alábbiakban a levelezést nem ismertetem részletekben, csak beküldött, publikációra szánt írását elemzem – majd előáll itt is az ellenérveim cáfolatával, ha akar. De azt azért elmondanám, hogy a csodadoktorokra jellemző „tudásszociológiai” érvrendszer itt is előkerült: a „hivatalos tudományt” vádoló összeesküvéselmélet, személyes (oktatói, megélhetési) érdekeltségünk a megszokottban, aminek folytán nem bírjuk elismerni az újat, emellett egyéb személyeskedés, gyanúsítgatás, inszinuáció – nem értem, miért.

G. J. úr az elutasított cikkben először is előadja a Cantor-tétel „szokásos”, általa hibásnak vélt bizonyítását. Előadása nem sokban különbözik a fentiektől, mint ahogy tételünknek egyszerűsége folytán nincsenek is lényegesen különböző bizonyításai. Ugyanazt lehet más sorrendben, vagy esetleg fölösleges lépések közbeiktatásával előadni. Nézzük azért végig.

1". csak annyiban különbözik 1.-től, hogy indirekte eleve felteszi f kölcsönösen egyértelmű voltát (bijektivitását).

2". ugyancsak a H_f definíciója, de ezt megcsillagozza.

3". annyiban módosul, hogy f bijektivitása miatt kell, hogy legyen H_f-nek egy és csak egy f szerinti ősképe; ez, a fentiekkel teljesen megegyezően eleme is, meg nem is H_f-nek, ami ellentmondás.

A bizonyítás cáfolatát egy segédtételre alapozza, amelyet diagonalizációs tételnek nevez. Ez lényegében a következőt mondja: Tekintsünk egy R relációt egy U halmaz elemei között. Akármilyen is R, nem lesz olyan u eleme U-nak, hogy minden v-re igaz legyen: v vagy u-val, vagy önmagával az R relációban áll, de nem mind a kettővel. Ez persze igaz, hiszen ha v-t éppen u-nak választjuk, a követelményből arra jutunk, hogy a „v R-ben áll önmagával”, és az „v R-ben áll önmagával” állítások közül egy és csak egy igaz.

4". Válasszuk U-t pot(H)-nak, R-nek meg azt a relációt, amely H két részhalmaza között akkor áll, ha az elsőnek az f szerinti ősképe eleme a másodiknak.

5". Tekintsük pot(H) egy tetszőleges G elemét. f bijektivitása miatt G-nek van egy és csak egy f szerinti ősképe, legyen ez x (tehát f(x) = G).

6". A diagonalizációs tétel most ezt állítja: nincs olyan H_f eleme pot(H)-nak, hogy minden G-re vagy x ∈ H_f, vagy x ∈ G(=f(x)), de csak az egyik. De épp ez volna a 2”-ben szereplő H_f definíciója, tehát H_f nem létezik.

G. J. szerint a „szokásos” bizonyítás azért hibás, mert H_f nemlétezése miatt a 3" lépés értelmetlen: nemlétezőről beszél, márpedig a nemlétezőkről szóló mondatok se nem igazak, se nem hamisak. A csillag azt jelzi, hogy innen nem volna szabad folytatni a bizonyítást.

A válasz nyilvánvalóan az, hogy ha G. J. gondolatmenetét akarjuk követni, nem is kell folytatnunk. 2"-ben H_f létezése az indirekt feltevésből (bijektív f függvény létezéséből) plusz (a naiv halmazelméletben) a komprehenzió elvéből következik; 2"-höz tehát helyesen tehetjük hozzá: „és ez a H_f létezik”. Ha valakinek ehhez van kedve, folytathatja a bizonyítást 3" helyett a 4", 5", 6" úton is, majd megállapíthatja:

7". 2" és 6" között ellentmondás van, tehát az indirekt feltevés hamis.

Tehát G. J. gondolatmenete nemhogy megcáfolná a Cantor-tételt, hanem egy más (valójában csak egy kicsit átrendezett és megbonyolított) bizonyítást ad rá.

Külön érdekesség, hogy G. J. elismeri: a „szokásos”, elemi tankönyvi (lényegében a naiv halmazelméletben mozgó) bizonyítással szemben (?) a Cantor-tétel Zermelo-Fraenkel-axiómarendszerben való bizonyítása helyes, mert ott a szeparációs axiómából következik H_f létezése, ezért ott befejezhetjük indirekt úton a bizonyítást. Itt már tényleg megáll az ész és nem tudom felfogni, hogyan juthatott tévútra a kolléga esze. Ha egyszer a komprehenzió elvének gyengített változatát kimondó Zermelo-féle axiómából következik H_f létezése, hogyne következne a naiv komprehenziós elvből? (Tekintsünk most el attól – ezt jó okkal megtehetjük –, hogy a naiv komprehenziós elvből bármi következik, mert ellentmondás következik belőle.)

Az eset arra mutat példát – ezért is érdemes szkeptikusként foglalkozni vele –, hogyan lesz egy szakmai tévedésből áltudomány. Cáfolatát adni egy nevezetes tétel bizonyításának egyáltalán nem rossz dolog; ha a cáfolat megállja a helyét, az szakmai szenzáció. Ilyet közölni minden szerkesztőnek érdekében áll, nemhogy sértené az érdekeit. Ha téves – istenem, megesik, vissza kell dobni. Az áltudomány éppen ott kezdődik valahol, amikor egy ilyen tévedésből megrögzött és minden cáfolattal szemben rezisztens mánia lesz.