Terence Tao, profesor UCLA yang secara luas dianggap sebagai matematikawan murni terbaik yang masih hidup, telah menyuarakan peringatan atas percepatan perlombaan AI dalam matematika yang sedang terjadi saat ini.

Tao, yang dianugerahi Fields Medal pada tahun 2006, kemarin memposting peringatan di instansi Mastodon yang berpusat pada matematika, Mathstodon, di mana ia berpendapat bahwa AI menguras pasokan masalah terbuka yang bagus di bidang tersebut, yaitu pertanyaan-pertanyaan yang belum terpecahkan yang benar-benar mendorong matematika maju. Bukan bukti. Bukan makalah. Pertanyaan-pertanyaan bagus.

Siapa pun bisa menemukan pertanyaan matematika baru yang tak terbatas; digit pi ke-googol secara teknis adalah masalah terbuka yang belum dihitung siapa pun. Hampir tidak ada satu pun yang penting, karena sebagian besar tidak mengajarkan apa pun tentang bidang yang lebih luas. Yang sebenarnya penting, tulis Tao, adalah mengetahui apa yang sebenarnya patut diupayakan.

"Singkatnya, penggunaan alat ekstraksi solusi yang kuat secara sembarangan dapat mencapai tujuan jangka pendek langsung untuk memecahkan masalah yang ada, tetapi dengan biaya keberlanjutan ekosistem untuk gelombang kemajuan berikutnya, atau dalam memahami kemajuan yang telah diperoleh," tulis Tao.

Dengan dirilisnya model penalaran dan sistem AI frontier generasi terbaru, laboratorium mulai mengerahkan komputasi dalam jumlah besar untuk masalah matematika dan ilmiah. Anthropic dan OpenAI telah menguji model mereka pada masalah yang telah bertahan dari matematikawan manusia selama bertahun-tahun, terkadang puluhan tahun.

Hasilnya bervariasi mulai dari fisika kuantum hingga matematika terapan dan kedokteran. Namun matematika berbeda: masalah yang benar-benar sulit relatif langka, dan para peneliti sering kali memilih dengan cermat mana yang akan mereka habiskan berbulan-bulan bahkan bertahun-tahun untuk dikejar.

Menyelesaikannya dulu bergantung pada "lanskap kesulitan" suatu bidang—pertanyaan mana yang sepele, mana yang membutuhkan upaya nyata, mana yang tidak mungkin dengan alat saat ini. Metode baru selalu meratakan sebagian dari lanskap itu, tetapi juga membuka batas baru melampaui batas mereka sendiri. AI memecah pola tersebut, argumen Tao, karena tidak ada yang bisa mengatakan secara pasti di mana kemampuan model berhenti.

Dari Rumor menjadi Perlombaan

Tao tidak menggambarkan hipotesis. Pada bulan Mei, model OpenAI menyangkal konjektur jarak-unit Erdős, sebuah pertanyaan berusia 80 tahun tentang berapa banyak pasangan titik pada bidang yang dapat berada tepat satu unit terpisah. Matematikawan luar, termasuk peraih Fields Medal Tim Gowers, memverifikasinya.

Dalam minggu yang sama, peneliti Anthropic Levent Alpöge menjalankan masalah yang identik melalui Claude Mythos, model tingkat atas perusahaan yang belum dirilis, bekerja secara offline sehingga tidak dapat menyalin solusi yang diterbitkan OpenAI. Insinyur Anthropic Sholto Douglas menyebut hasilnya "bukti yang manis dan sederhana," lebih pendek dari OpenAI. Matematikawan Daniel Litt menyebutnya "sedikit lebih buruk" dari versi OpenAI, meskipun Mythos juga menemukan solusi OpenAI sendiri.

Baru minggu ini, Anthropic memformalkan bukti berusia berabad-abad tentang teorema terakhir Fermat dan beberapa hari kemudian OpenAI memecahkan masalah berusia 90 tahun, beberapa jam setelah seorang peneliti menerbitkan buktinya sendiri, ikut menulis makalah dengan seorang peneliti Anthropic.

Perlombaan itulah yang justru dikhawatirkan Tao. "Kami sekarang telah melihat bahwa bahkan rumor seseorang sedang mengerjakan suatu masalah dapat memicu sejumlah besar upaya bertenaga AI untuk menyelesaikannya sebelum proyek penelitian asli memiliki waktu untuk mencapai potensi penuhnya," tulisnya.

Tao berpendapat bahwa ini akhirnya membalikkan sains terbuka selama berabad-abad.

Nilailah Prosesnya, Bukan Hanya Jawabannya

Solusi yang diusulkan Tao adalah menandai masalah tertentu sebagai "membutuhkan-analisis" (analysis-required), yang berarti jawaban mentah yang benar tidak banyak berarti kecuali disertai dengan penalaran yang mengungkapkan sesuatu tentang masalah-masalah di sekitarnya. Ia membandingkannya dengan bank makanan yang berhenti menerima donasi apa pun yang hanya bisa dimakan.

Pilihannya adalah ini atau melarang AI dalam matematika, sebuah solusi, kata Tao, "secara teknis tidak mungkin."

Proposal tersebut belum menjadi kebijakan di mana pun, dan berdasarkan bagaimana laboratorium AI besar berperilaku, bahkan ini mungkin secara teknis tidak mungkin saat ini.