Si Terence Tao, ang propesor ng UCLA na malawak na itinuturing na pinakamahusay na nabubuhay na purong mathematician, ay nagbigay babala tungkol sa mabilis na pag-unlad ng AI sa larangan ng matematika na nagaganap ngayon.

Si Tao, na ginawaran ng Fields Medal noong 2006, ay nag-post ng babala sa Mathstodon, isang Mastodon instance na nakasentro sa matematika, kahapon. Dito, sinabi niya na unti-unting nauubos ng AI ang suplay ng mga magagandang bukas na problema sa larangan — ang mga hindi nalulutas na tanong na siyang nagtutulak sa matematika pasulong. Hindi mga patunay. Hindi mga papel. Kundi mga magagandang tanong.

Kahit sino ay maaaring gumawa ng walang katapusang bagong tanong sa matematika; ang googol-th digit ng pi ay teknikal na isang bukas na problema na wala pang nakakalkula. Halos wala sa mga ito ang mahalaga, dahil karamihan ay walang itinuturo tungkol sa mas malawak na larangan. Ang mahalaga, ayon kay Tao, ay malaman kung ano ang talagang sulit paglaanan ng pagsisikap.

“Sa madaling sabi, ang walang pagtatanging paggamit ng makapangyarihang tool sa pagkuha ng solusyon ay maaaring makamit ang agarang panandaliang layunin ng paglutas ng mga problema, ngunit sa kapinsalaan ng pagpapanatili ng ecosystem para sa susunod na yugto ng pag-unlad, o sa pag-unawa sa progreso na nakamit na,” isinulat ni Tao.

Sa paglabas ng mga reasoning model at ang pinakabagong henerasyon ng mga frontier AI system, nagsimula ang mga lab na gumamit ng napakalaking komputasyon sa mga problemang pang-matematika at pang-agham. Sinubok ng Anthropic at OpenAI ang kanilang mga modelo sa mga problema na matagal nang hindi nalulutas ng mga mathematician, minsan sa loob ng ilang dekada.

Ang mga resulta ay mula sa quantum physics hanggang sa applied mathematics at medisina. Ngunit iba ang matematika: ang talagang mahihirap na problema ay medyo kakaunti, at madalas na maingat na pinipili ng mga mananaliksik kung alin ang gugugulan ng buwan o kahit taon sa pagsisikap.

Ang pagtukoy dito ay dating nakasalalay sa "difficulty landscape" ng isang larangan — kung aling mga tanong ang maliit na bagay, alin ang nangangailangan ng tunay na pagsisikap, alin ang walang pag-asa sa kasalukuyang mga tool. Palaging pinapantay ng mga bagong pamamaraan ang ilang bahagi ng landscape na iyon, ngunit nagbubukas din sila ng sariwang hangganan na lampas sa kanilang mga limitasyon. Sinasira ng AI ang pattern, ayon kay Tao, dahil walang makapagsasabi kung saan eksaktong humihinto ang kakayahan ng isang modelo.

Mula sa bulong tungo sa karera

Hindi haka-haka ang inilalarawan ni Tao. Noong Mayo, pinatunayan ng isang modelo ng OpenAI na mali ang Erdős unit-distance conjecture, isang 80-taong gulang na tanong tungkol sa kung gaano karaming pares ng mga puntos sa isang plane ang maaaring maging eksaktong isang unit ang layo. Pinatunayan ito ng mga mathematician sa labas, kabilang ang Fields medalist na si Tim Gowers.

Sa loob ng parehong linggo, pinatakbo ng mananaliksik ng Anthropic na si Levent Alpöge ang parehong problema sa Claude Mythos, ang hindi pa inilalabas na top-tier model ng kumpanya, na gumagana nang offline upang hindi nito makopya ang inilabas na solusyon ng OpenAI. Tinawag ni Sholto Douglas, inhinyero ng Anthropic, ang resulta na isang "cute, simpleng patunay," na mas maikli kaysa sa OpenAI. Sinabi ng mathematician na si Daniel Litt na ito ay "medyo mas masahol" kaysa sa bersyon ng OpenAI, bagama't natuklasan din ng Mythos ang sariling solusyon ng OpenAI.

Ngayong linggo lang, pormal na inilatag ng Anthropic ang isang daan-daang taong gulang na patunay ng huling teorya ni Fermat at ilang araw pagkaraan ay nalutas ng OpenAI ang isang 90-taong gulang na problema, ilang oras matapos ilathala ng isang mananaliksik ang kanyang sariling patunay, na kasama niyang sumulat ng isang papel kasama ang isang mananaliksik ng Anthropic.

Ang karerang iyon ang eksaktong ikinababahala ni Tao. “Nakita na natin na kahit ang bulong na may nagtatrabaho sa isang problema ay maaaring magdulot ng napakalaking pagsisikap na pinapagana ng AI upang malutas ito bago pa man magkaroon ng sapat na oras ang orihinal na proyekto ng pananaliksik upang maabot ang buong potensyal nito,” isinulat niya.

Ipinangangatwiran ni Tao na binabaligtad nito ang mga siglo ng bukas na agham.

Husgahan ang proseso, hindi lamang ang sagot

Ang iminungkahing solusyon ni Tao ay markahan ang ilang problema bilang "nangangailangan ng pagsusuri," na nangangahulugang maliit lang ang halaga ng isang tamang hilaw na sagot maliban kung ito ay may kasamang pagpapaliwanag na naglalantad ng isang bagay tungkol sa mga kalapit na problema. Inihalintulad niya ito sa mga food bank na huminto sa pagtanggap ng anumang donasyon na nakakain lang.

Alinman sa ito o ang pagbabawal sa AI sa matematika, isang solusyon, sabi ni Tao, ay “teknikal na hindi magagawa.”

Ang panukala ay hindi pa nagiging patakaran kahit saan, at batay sa kung paano kumilos ang malalaking AI lab, kahit ito ay maaaring teknikal na hindi magagawa sa ngayon.