中國出版?zhèn)髅缴虉笥?為更好地規(guī)范AIGC技術(shù)在學(xué)術(shù)出版領(lǐng)域的應(yīng)用，管控新技術(shù)帶來的學(xué)術(shù)不端風(fēng)險，推動學(xué)術(shù)期刊高質(zhì)量建設(shè)，“AIGC技術(shù)在學(xué)術(shù)出版應(yīng)用的學(xué)術(shù)誠信與風(fēng)險管控研討會”于1月19日在京舉行。研討會由中國期刊協(xié)會主辦，中國期刊協(xié)會數(shù)字分會、學(xué)術(shù)出版新技術(shù)應(yīng)用與公共服務(wù)實驗室承辦，中華醫(yī)學(xué)會雜志社、南京智齒數(shù)匯信息科技有限公司協(xié)辦。研討會是中國期刊協(xié)會作為發(fā)起單位成立的學(xué)術(shù)出版新技術(shù)應(yīng)用與公共服務(wù)實驗室系列活動之一。
“人工智能生成內(nèi)容（AIGC）技術(shù)給學(xué)術(shù)出版帶來深刻變革，由此導(dǎo)致的學(xué)術(shù)誠信問題亦為全球所關(guān)注，大量過度使用人工智能引發(fā)的學(xué)術(shù)不端，需盡快構(gòu)建以法治為基礎(chǔ)、共治為途徑、規(guī)范為目標(biāo)、技術(shù)為保障的治理環(huán)境，更好地管控風(fēng)險，為學(xué)術(shù)期刊高質(zhì)量發(fā)展奠定基礎(chǔ)?！敝袊诳瘏f(xié)會副會長李軍介紹了此次研討會的主要目的。
研討會邀請了中國科學(xué)院文獻情報中心博士生導(dǎo)師、科研誠信研究中心副主任袁軍鵬，中華醫(yī)學(xué)會雜志社新媒體部主任沈錫賓，南京智齒數(shù)匯信息科技有限公司首席執(zhí)行官溫文作專題報告。
袁軍鵬在演講中聚焦當(dāng)前AIGC對科技期刊出版?zhèn)惱淼挠绊懪c挑戰(zhàn)。他表示，自ChatGPT發(fā)布以來，包括科研界在內(nèi)的各行各業(yè)都在討論其貢獻，但也關(guān)注到了AIGC存在的可靠性問題、知識更新滯后問題、算法穩(wěn)健性問題、數(shù)據(jù)安全風(fēng)險問題。因為AIGC的使用，科技期刊出版面臨的挑戰(zhàn)主要在于，一是引發(fā)更為嚴重的科研失信；二是對署名規(guī)范提出挑戰(zhàn)，引發(fā)成果署名與歸屬的重新界定；三是對引用規(guī)范提出挑戰(zhàn)，如何聲明類ChatGPT等工具的使用；四是對檢測技術(shù)提出挑戰(zhàn)，如何識別AIGC生成內(nèi)容。袁軍鵬指出，AIGC的使用對論文虛假信息的管理難度依然存在，科研打假網(wǎng)站Retration watch的一組數(shù)據(jù)顯示，自2021年至2023年12月共有2457篇人工智能生成論文被撤稿，約占近三年來撤稿論文總數(shù)的15.5%。結(jié)合國際國內(nèi)AIGC用于學(xué)術(shù)出版的政策與策略，袁軍鵬認為，AIGC輔助學(xué)術(shù)出版需要遵守相應(yīng)規(guī)則和原則，即作者應(yīng)時刻保持良好的誠信意識，認真踐行出版?zhèn)惱?，不參與學(xué)術(shù)不端；作者在學(xué)術(shù)成果形成和撰寫過程中的哪個環(huán)節(jié)何種程度使用了AIGC，需要在論文中清晰聲明或標(biāo)注；另外，需對AIGC的準(zhǔn)確性、一致性、完整性等進行人工審核，并承擔(dān)著作者責(zé)任。
沈錫賓在演講時表示，目前AIGC的能力已經(jīng)開始影響一部分人解決問題的習(xí)慣，如文本、代碼、圖像、語音、視頻、3D建模、場景、音樂等是目前比較典型的應(yīng)用。但是，AIGC的廣泛應(yīng)用確實會帶來倫理挑戰(zhàn)，比如內(nèi)容造假、審稿專家使用AI審稿等。為了管控新技術(shù)帶來的學(xué)術(shù)不端等問題，受中國科協(xié)委托，中華醫(yī)學(xué)會雜志社承擔(dān)了《大模型技術(shù)對中國科技期刊發(fā)展的影響分析和對策》課題，并與南京智齒數(shù)匯信息科技有限公司合作，首次在全球推出了在采編系統(tǒng)中集成AI寫作檢測工具。沈錫賓表示，AIGC的濫用與防范會是一場無休止的“貓鼠游戲”，在采編系統(tǒng)中加入寫作檢測功能是他們應(yīng)對學(xué)術(shù)誠信與風(fēng)險管控的一次重要實踐。
溫文在研討會上重點介紹了由南京智齒數(shù)匯信息科技有限公司研發(fā)的專業(yè)用于檢測文本由AI生成的疑似程度的檢測系統(tǒng)“鑒字源”。據(jù)其介紹，經(jīng)過對ChatGPT、文心一言、星火大模型等多種AI模型的生成內(nèi)容進行檢測，“鑒字源”綜合結(jié)果正確率高達96%，綜合誤判率低于3%，處理效率可達300字/秒。
研討環(huán)節(jié)，圍繞如何管控新技術(shù)帶來學(xué)術(shù)不端這一話題，與會的期刊社代表、高校代表等紛紛發(fā)言，并提出了相關(guān)建議。
據(jù)悉，中國期刊協(xié)會所屬學(xué)術(shù)出版新技術(shù)應(yīng)用與公共服務(wù)實驗室日前成立了AIGC學(xué)術(shù)出版輔助與檢測應(yīng)用課題組。會上，課題組向有關(guān)專家授予聘書。（一 鳴）
