AI Assistance in Scientific Research Raises Concerns

Cryptopolitan · 2024-05-03T13:23:02.000Z

Research indicates that generative AI is being used in scientific writing at a significant rate some of the researchers are treating it as a valid approach that can pose a threat to real research and the true nature of scholarly work. AI’s growing influence on scientific writing Scholars have discovered that the volume of AI-produced writing is quite substantial compared to other kinds of writing, like journals and books. Such analysis based on linguistics hints that the use of words typically associated with large language models (LLMs) like “intricate,” “pivotal,” and “meticulously” has increased substantially in the text. The data collected by Andrew Gray from University College London reveal that after 2023, just 1% of papers in certain fields are assisted by AI. Subsequently, in April, another study from Stanford University found that the number of biased reviews falls between 6.3 and 17.5 percent based on the research subject. Detecting AI influence Language tests, and statistical analysis were amongst the tools used to link words or phrases to AI assistance. Despite the fact that modifying words, like ‘red’,’result’, and ‘after’ observed less variation till 2023 and then spikes in the use of some adjectives and adverbs associated with LLM-generated content begin to happen. Precisely, the words “meticulous,” “commendable,” and “intricate” increased that much by 117%, having hit the highest rate post-2022. The Stanford study observed a Shift in Language usage in Artificial Intelligence, which indicated that AI language continues to improve in its usage in all scientific disciplines. The research also disclosed that AI linguistic discrimination is consistent with the disciplinary disparities in AI adoption. Fields like computer science and electrical engineering are in the teaching front of AI charter language. However, fields such as mathematics, physics, or Nature didn’t feature more dramatic shifts but rather more conservative raises. Ethical challenges in AI-assisted academic writing The authors, being more prolific in preprints, working in the research areas where the competition is high, and whetting an appetite for short papers, were shown to be more prone to AI-assisted writing. It is evident that this pattern throws light on the presumed relationship between time limitation and the increased amount of published content as the result of AI-generated content. AI has been a key facilitator in speeding up research processes. However, it still raises issues of ethics when the technology is used in diverse tasks such as abstracts and other sections of scientific papers. Certain publishers consider it plagiarism, and to some extent unethical, if employed agents of LLMs discuss a scientific paper in which they are not the sole human authors. The necessary nature of avoiding inaccuracies in AI-generated text, such as imagined quotations and examples, is yet a key feature of scholars’ communication, one should not fail to be transparent and honest. Authors who employ LLM-driven material are required to let the readers know about the research method they used to maintain research integrity and standard acts. With AI’s increasing influence in academic writing, the architects of the academic community are confronted with the serious challenge of solving ethical implications and ensuring the reliability of research articles. AI is a great technology that significantly facilitates research activities, but honesty and integrity still ought to be maintained in order to preserve scientific integrity.

Cercetările indică faptul că IA generativă este utilizată în scrierea științifică într-un ritm semnificativ, unii dintre cercetători o tratează ca pe o abordare validă care poate reprezenta o amenințare pentru cercetarea reală și adevărata natură a muncii academice.
Influența crescândă a inteligenței artificiale asupra scrierii științifice
Oamenii de știință au descoperit că volumul scrisului produs de IA este destul de substanțial în comparație cu alte tipuri de scris, cum ar fi jurnale și cărți. O astfel de analiză bazată pe lingvistică sugerează că utilizarea cuvintelor asociate în mod obișnuit cu modele de limbaj mari (LLM) precum „complicat”, „pivotal” și „minus” a crescut substanțial în text.
Datele culese de Andrew Gray de la University College London dezvăluie că, după 2023, doar 1% din lucrările din anumite domenii sunt asistate de AI. Ulterior, în aprilie, un alt studiu de la Universitatea Stanford a constatat că numărul de recenzii părtinitoare se încadrează între 6,3 și 17,5% pe baza subiectului de cercetare.
Detectarea influenței AI
Testele lingvistice și analiza statistică s-au numărat printre instrumentele folosite pentru a lega cuvinte sau expresii la asistența AI. În ciuda faptului că cuvintele modificate, cum ar fi „roșu”, „rezultat” și „după”, au observat mai puține variații până în 2023 și apoi încep să se producă vârfuri în utilizarea unor adjective și adverbe asociate conținutului generat de LLM.
Mai exact, cuvintele „meticulos”, „lăudabil” și „complicat” au crescut atât de mult cu 117%, ajungând la cea mai mare rată după 2022. Studiul de la Stanford a observat o schimbare în utilizarea limbajului în inteligența artificială, ceea ce a indicat că limbajul AI continuă să se îmbunătățească în utilizarea sa în toate disciplinele științifice.
Cercetarea a dezvăluit, de asemenea, că discriminarea lingvistică AI este în concordanță cu disparitățile disciplinare în adoptarea AI. Domenii precum informatică și inginerie electrică sunt în fața predării limbajului AI. Cu toate acestea, domenii precum matematica, fizica sau natura nu au prezentat schimbări mai dramatice, ci creșteri mai degrabă conservatoare.
Provocări etice în scrierea academică asistată de inteligență artificială
Autorii, fiind mai prolifici în preprinturi, lucrând în domeniile de cercetare în care concurența este mare și stârnind apetitul pentru lucrări scurte, s-au dovedit a fi mai predispuși la scrierea asistată de AI. Este evident că acest model aruncă în lumină relația presupusă dintre limitarea de timp și cantitatea crescută de conținut publicat ca rezultat al conținutului generat de AI.
AI a fost un facilitator cheie în accelerarea proceselor de cercetare. Cu toate acestea, încă ridică probleme de etică atunci când tehnologia este utilizată în diverse sarcini, cum ar fi rezumate și alte secțiuni ale lucrărilor științifice. Anumiți editori consideră că este plagiat și, într-o oarecare măsură, lipsit de etică, dacă agenții LLM-uri angajați discută o lucrare științifică în care nu sunt singurii autori umani.
Natura necesară evitării inexactităților în textul generat de inteligența artificială, cum ar fi citatele și exemplele imaginare, este totuși o caracteristică cheie a comunicării savanților, nu trebuie să nu fii transparent și onest. Autorii care folosesc materiale bazate pe LLM sunt obligați să informeze cititorii despre metoda de cercetare pe care au folosit-o pentru a menține integritatea cercetării și actele standard.
Odată cu influența tot mai mare a AI în scrierea academică, arhitecții comunității academice se confruntă cu provocarea serioasă de a rezolva implicațiile etice și de a asigura fiabilitatea articolelor de cercetare. AI este o tehnologie excelentă care facilitează în mod semnificativ activitățile de cercetare, dar onestitatea și integritatea ar trebui să fie menținute pentru a păstra integritatea științifică.

Explorați mai multe de la acest creator

Ultimele știri