Nhân Văn Số |

tei-mcp v0.3: Mã hóa TEI mà không viết lại văn bản gốc

Tue, 05 May 2026 00:00:00 +0000

Khi , mục tiêu của tôi là chặn các trợ lý AI bịa ra thẻ đánh dấu TEI. Neo vào lược đồ đã giải quyết được một phần vấn đề: có trong tay quyền truy cập trực tiếp, qua công cụ, vào đặc tả P5, mô hình không còn phải đoán một phần tử nghĩa là gì hay nhận những thuộc tính nào. Đầu ra vượt qua kiểm định.

Thế nhưng trong mã hóa TEI, bịa đặt có hai bộ mặt, và lược đồ chỉ bắt được một. Kiểm định theo đặc tả cho bạn biết thẻ đánh dấu có đúng dạng hay không. Nó chẳng nói gì về văn bản mà thẻ ấy bao bọc. Mà chính ở đó – ở bản thân văn bản – mới là nơi trú ngụ của những bịa đặt tai hại hơn. Ghép khóa theo đoạn, tính năng chủ đạo của v0.3, được thiết kế riêng để ngăn chặn chúng.

Mục Lục

Thứ bịa đặt mà lược đồ không bắt được

Hãy yêu cầu một mô hình mã hóa một lá thư tiếng Pháp thế kỷ XVI: bạn thường sẽ nhận về một tài liệu TEI trông hoàn hảo. Phần đầu được điền đầy đủ, các thẻ <persName> đặt đúng chỗ, <dateline> đúng dạng. Chạy qua validate_document – đạt.

Rồi đem so phần thân với văn bản gốc.

mesme đã biến thành même. Một dấu phẩy đã đổi chỗ. luy bị lặng lẽ hiện đại hóa thành lui. Một mệnh đề khó đọc trong bản thảo được “sửa” thành thứ gì đó gọn gàng hơn. Không thay đổi nào trong số này được yêu cầu. Không thay đổi nào được báo. Tài liệu hợp lệ theo lược đồ, và sai một cách lặng lẽ.

Với quy trình lưu trữ – nơi văn bản đã mã hóa trở thành bản ghi vĩnh viễn mà người đọc, chỉ mục tìm kiếm và trích dẫn sau này đều dựa vào – đây chính là kiểu thất bại đáng lo nhất. Một thẻ sai dạng thì gây bực mình. Một chính tả bị hiện đại hóa mà năm năm sau chẳng ai nhận ra thì là văn bản đã bị làm hỏng.

Ghép khóa theo đoạn

Bản phát hành mới (v0.3) đi kèm một cơ chế chống bịa đặt nhắm thẳng vào kiểu thất bại này. Mục tiêu thiết kế là làm cho việc bịa đặt phần thân văn bản trở thành bất khả ngay từ cấu trúc, chứ không chỉ là khó xảy ra.

Ý tưởng rất đơn giản: mô hình không bao giờ gõ phần thân văn bản.

Thay vào đó, quy trình diễn ra như sau:

Mô hình gọi get_source("letter_001") và nhận về văn bản gốc thuần dưới dạng một chuỗi bất biến.
Với mỗi thẻ muốn áp dụng, nó gọi tag_span("letter_001", start, end, element_path, attrs) – đăng ký một phần tử TEI tại một khoảng ký tự trên văn bản gốc.
Xong việc, nó gọi compose("letter_001"). Máy chủ đan các thẻ đã ghi nhận vào văn bản gốc, kết xuất tài liệu TEI cuối cùng, rồi kiểm tra từng byte một rằng nội dung văn bản phẳng của tài liệu vừa kết xuất bằng đúng văn bản gốc.

Nếu các byte khớp, tài liệu được trả về. Nếu không – nếu các thẻ của mô hình, vì lý do nào đó, hàm ý một phần thân khác với bản gốc dù chỉ một ký tự – compose() sẽ báo lỗi thay vì trả về một tài liệu đã bị hỏng.

Không có lối nào trong quy trình này để mô hình tạo ra một tài liệu TEI mà phần thân khác với văn bản gốc. Bất biến này mang tính cơ học, không phải tính hành vi. Bạn không cần tin rằng mô hình sẽ không bịa; bạn chỉ cần tin vào một phép so sánh == giữa hai chuỗi byte.

Nó là gì, và không phải là gì

Ghép khóa theo đoạn bổ sung cho việc neo vào lược đồ, chứ không thay thế nó. Các công cụ neo lược đồ (validate_document, lookup_element, valid_children, cùng phần còn lại của mười sáu công cụ ban đầu) giúp mô hình tạo ra TEI hợp lệ. Ghép khóa theo đoạn bảo đảm phần thân văn bản bên trong TEI ấy trung thành với bản gốc. Một quy trình mã hóa có thể triển khai thực sự phải thỏa mãn cả hai trục, và giờ đây cả hai đều được một máy chủ duy nhất đảm đương.

Nó cũng không phải là liều thuốc tiên chữa bách bệnh. compose() chưa kiểm tra xem các thẻ đã đăng ký có được phép theo một bản tùy biến ODD đã nạp hay không – đó là việc của bước tiếp theo. Các thẻ đã ghi nhận nằm trong bộ nhớ tiến trình và không sống sót qua một lần khởi động lại. Và các tệp gốc phải đọc được từ nơi máy chủ chạy. Tất cả đều có thể khắc phục; không điều nào làm lung lay bất biến cốt lõi.

Vì sao điều này quan trọng vượt ra ngoài TEI

Mẫu hình này có thể khái quát hóa. Bất cứ khi nào ta yêu cầu một mô hình chú giải, biến đổi hay bao bọc một đoạn văn bản – và bất cứ khi nào tính toàn vẹn của văn bản gốc quan trọng hơn khả năng “cải thiện” nó của mô hình – thì cùng một dạng giải pháp đều áp dụng được. Đừng bắt mô hình gõ lại văn bản. Hãy bắt nó đưa ra chỉ dẫn trên văn bản, rồi để một bộ ghép tất định áp dụng các chỉ dẫn ấy dưới một bất biến về đẳng thức.

Riêng với ấn bản kỹ thuật số, điều này thay đổi những gì bạn có thể giao cho mô hình một cách có trách nhiệm. Mã hóa bỗng trở thành công việc có thể ủy thác mà không phải tự tay so từng đầu ra với bản gốc. Máy đi con đường tẻ nhạt; người biên tập duyệt thẻ đánh dấu, chứ không duyệt chính tả.

Cập nhật

Nếu bạn đã cài tei-mcp:

uvx tei-mcp@latest

Hoặc cài mới:

pip install tei-mcp

Để dùng ghép khóa theo đoạn, hãy trỏ máy chủ tới một thư mục chứa các tệp văn bản gốc thuần:

export TEI_MCP_SPAN_SOURCE_ROOT=/path/to/sources
uvx tei-mcp

Phần gốc của tên mỗi tệp trở thành mã tài liệu (letter_001.txt → letter_001).

Mã nguồn, tài liệu đầy đủ và ghi chú thiết kế về bất biến:

Một kiểu ấn bản kỹ thuật số khác

Tue, 24 Mar 2026 00:00:00 +0000

Phần lớn nguồn sử liệu gốc chẳng bao giờ được công bố. Mô hình mà chúng ta trông cậy để khắc phục điều đó – ấn bản kỹ thuật số sống nhờ tài trợ – thì quá đắt đỏ, quá tập trung và quá mong manh để có thể nhân rộng. Tôi vừa đăng giải thích vì sao mình xây dựng ấn bản phê bình thư từ của Cavriana theo một cách khác: nguồn sử liệu gốc được số hóa và lớn dần lên một cách tự nhiên, với hạ tầng tối thiểu, bảo trì tự động, mở cửa cho cộng tác, và rẻ đến mức chẳng cần đến tài trợ nào. Đó là lời biện hộ cho một thứ nhân văn số vận hành được bất kể có hay không có sự hậu thuẫn của thiết chế.

tei-mcp

Sun, 15 Mar 2026 00:00:00 +0000

tei-mcp: TEI P5 cho tác tử AI

tei-mcp là một máy chủ mã nguồn mở, cho phép các trợ lý lập trình AI truy cập trực tiếp vào đặc tả . Thay vì dựa vào dữ liệu huấn luyện đã ghi nhớ – thứ thường sinh ra thẻ đánh dấu trông hợp lý mà sai – AI có thể tra cứu đặc tả theo thời gian thực.

Tính năng

Máy chủ phân tích ODD của TEI P5 và cung cấp 16 công cụ:

Tra cứu bất kỳ phần tử, lớp, macro hay mô-đun nào theo tên, không phân biệt hoa thường, kèm gợi ý khi gõ nhầm
Phân giải thuộc tính xuyên suốt toàn bộ hệ phân cấp lớp TEI (cục bộ + kế thừa)
Khai triển mô hình nội dung thành cây có cấu trúc, với phân giải lớp và macro
Kiểm tra lồng ghép – quan hệ cha–con trực tiếp hoặc khả năng đạt tới đệ quy, có theo dõi đường dẫn
Kiểm định tài liệu theo TEI P5: mô hình nội dung, thuộc tính, danh sách giá trị đóng, tính toàn vẹn của tham chiếu và cảnh báo lỗi thời
Kiểm định từng phần tử cho quy trình biên tập từng bước
Nạp tùy biến ODD để giới hạn lược đồ vào tập con riêng của dự án
Tìm kiếm trên mọi loại thực thể bằng biểu thức chính quy

Cài đặt

pip install tei-mcp

Hoặc chạy trực tiếp bằng:

uvx tei-mcp

Sử dụng

Thêm vào bất kỳ ứng dụng khách tương thích MCP nào (Claude, Cursor, Windsurf, v.v.):

{
 "mcpServers": {
 "tei": {
 "command": "uvx",
 "args": ["tei-mcp"]
 }
 }
}

Mã nguồn và tài liệu có tại .

tei-mcp: TEI P5 cho tác tử AI

Sun, 15 Mar 2026 00:00:00 +0000

Nếu đã từng nhờ một trợ lý lập trình AI viết TEI XML, hẳn bạn nhận ra nó hay sai. Phần tử mọc ở chỗ không được phép. Thuộc tính thì bịa ra. Quy tắc lồng ghép bị bỏ qua. Mô hình chỉ có một ý niệm đại khái về hình dáng của TEI, chứ không nắm chắc đặc tả.

tei-mcp giải quyết chuyện này bằng cách cho tác tử AI truy cập trực tiếp, qua công cụ, vào Hướng dẫn TEI P5.

Mục Lục

MCP là gì?

(MCP) là một chuẩn mở cho phép các ứng dụng AI kết nối với nguồn dữ liệu và công cụ bên ngoài. Hãy hình dung nó như cổng USB của AI: một giao thức duy nhất để bất kỳ ứng dụng khách tương thích nào – Claude, Cursor, Windsurf và những cái khác – cắm vào các dịch vụ chuyên biệt.

Một máy chủ MCP cung cấp những công cụ mà AI có thể gọi ngay trong lúc trò chuyện. Thay vì dựa vào dữ liệu huấn luyện đã ghi nhớ, mô hình có thể tra hỏi một nguồn sống, có thẩm quyền.

tei-mcp làm gì

tei-mcp phân tích đặc tả ODD của TEI P5 và cung cấp 16 công cụ, bao quát những câu hỏi thường gặp nhất của người biên tập hay người mã hóa:

Phần tử này là gì? Tra cứu bất kỳ phần tử, lớp, macro hay mô-đun nào theo tên, không phân biệt hoa thường, kèm gợi ý khi gõ nhầm.
Nó nhận những thuộc tính nào? Phân giải thuộc tính xuyên suốt toàn bộ hệ phân cấp lớp – thuộc tính cục bộ trước, rồi đến thuộc tính kế thừa theo thứ tự.
Bên trong nó chứa được gì? Khai triển mô hình nội dung thành cây có cấu trúc, hoặc lấy danh sách phẳng các phần tử con hợp lệ.
Phần tử này đặt ở đây được không? Kiểm tra quan hệ cha–con, hoặc lần theo khả năng đạt tới qua toàn bộ hệ phân cấp phần tử.
Tài liệu của tôi có hợp lệ không? Kiểm định một tệp TEI XML theo đặc tả: mô hình nội dung, giá trị thuộc tính, danh sách giá trị đóng, tính toàn vẹn của tham chiếu, và cảnh báo về phần tử đã lỗi thời.
Còn lược đồ riêng của dự án tôi thì sao? Nạp một tệp tùy biến ODD để giới hạn tất cả những gì kể trên vào tập con TEI riêng của dự án bạn.

Vì sao điều này quan trọng

Mã hóa TEI đòi hỏi tra cứu Hướng dẫn không ngừng. Người mã hóa lão luyện thuộc lòng những mẫu thông dụng nhất, nhưng ngay cả họ cũng phải giở đặc tả khi gặp phần tử ít quen hay mô hình nội dung phức tạp. Với trợ lý AI, vốn chẳng có chút hiểu biết thuộc lòng nào như thế, vấn đề còn tệ hơn: chúng bịa ra thứ đánh dấu trông có vẻ hợp lý mà thực ra sai.

Có tei-mcp, AI không còn phải đoán. Nó có thể tra câu trả lời trong đặc tả trước khi viết ra dù chỉ một dấu ngoặc nhọn. Kết quả là thứ đánh dấu tuân thủ TEI P5 – hoặc tuân thủ bản tùy biến ODD của dự án bạn.

Bắt đầu

Cài từ PyPI:

pip install tei-mcp

Rồi thêm vào cấu hình của ứng dụng khách MCP:

{
 "mcpServers": {
 "tei": {
 "command": "uvx",
 "args": ["tei-mcp"]
 }
 }
}

Máy chủ tải đặc tả TEI về trong lần chạy đầu tiên và hoạt động với mọi ứng dụng khách tương thích MCP.

Mã nguồn và tài liệu đầy đủ:

Multi-Saxon

Fri, 28 Mar 2025 00:00:00 +0000

Multi-Saxon: Xử lý XSLT song song cho kho ngữ liệu TEI lớn

Multi-Saxon lấp một khoảng trống đáng kể trong bộ công cụ xử lý XML: nó cho phép chạy song song các phép biến đổi XSLT 2.0 và 3.0 mà LXML (thư viện XML phổ biến của Python) không xử lý được. Được thiết kế riêng cho những bộ sưu tập tài liệu XML TEI lớn, Multi-Saxon rút ngắn đáng kể thời gian xử lý nhờ thực thi song song hiệu quả.

Tính năng chính

Hỗ trợ XSLT nâng cao: Xử lý các phép biến đổi XSLT 2.0 và 3.0, vượt ngoài khả năng của LXML
Xử lý song song: Giảm mạnh thời gian biến đổi trên các bộ sưu tập tài liệu lớn nhờ song song hóa
Tối ưu cho TEI: Được thiết kế riêng cho tài liệu XML theo chuẩn Text Encoding Initiative (TEI)
Hiệu năng mở rộng được: Xử lý hiệu quả những kho ngữ liệu từ vài trăm đến hàng nghìn tài liệu
Đa nền tảng: Chạy được trên nhiều hệ điều hành và môi trường khác nhau

Vấn đề mà Multi-Saxon giải quyết

Học giả nhân văn số làm việc với TEI thường vấp phải hai trở ngại lớn:

LXML (thư viện xử lý XML thông dụng của Python) chỉ hỗ trợ XSLT 1.0, nên không thể dùng các tính năng nâng cao của XSLT 2.0/3.0
Xử lý tuần tự những kho ngữ liệu TEI lớn có thể tốn thời gian đến mức không chấp nhận được

Multi-Saxon giải quyết cả hai bằng cách tận dụng năng lực XSLT nâng cao của Saxon, đồng thời phân phối việc xử lý trên nhiều lõi để đạt mức tăng hiệu năng đáng kể.

Triển khai

Multi-Saxon kết hợp Python với bộ xử lý Saxon của Java để tạo nên một đường ống biến đổi hiệu năng cao:

Dùng thư viện Saxon của Java để xử lý XSLT 2.0/3.0 một cách vững chắc
Dùng cơ chế đa tiến trình để phân phối các phép biến đổi trên những lõi CPU sẵn có
Quản lý hiệu quả các nhóm bộ xử lý nhằm tối đa hóa thông lượng
Cung cấp giao diện đơn giản để xử lý hàng loạt tài liệu TEI

Ví dụ sử dụng

from multi_saxon import MultiSaxon

# Initialize with your XSLT stylesheet
transformer = MultiSaxon("transform.xsl")

# Transform a single document
transformer.transform("input.xml", "output.xml")

# Transform an entire directory in parallel
transformer.transform_directory("input_dir", "output_dir")

Tác động đối với nhân văn số

Với những dự án nhân văn số phải xử lý các bộ sưu tập tài liệu TEI lớn, Multi-Saxon cho phép:

Thực hiện những phép biến đổi phức tạp trên toàn bộ kho ngữ liệu, điều bất khả với LXML
Rút ngắn mạnh thời gian xử lý (thường gấp 5–10 lần trên hệ thống đa lõi)
Phân tích tinh vi hơn nhờ các tính năng nâng cao của XSLT 2.0/3.0
Đơn giản hóa quy trình xử lý trọn bộ sưu tập tài liệu

Mã nguồn và tài liệu có tại .

persNamer

Fri, 28 Mar 2025 00:00:00 +0000

persNamer: Nối TEI với Virtual International Authority File

persNamer là một công cụ Python chuyên dụng, giúp đưa dữ liệu nhân danh có thẩm quyền từ VIAF (Virtual International Authority File) vào tài liệu TEI XML một cách trơn tru. Bằng cách chuyển mã định danh VIAF thành thẻ đánh dấu TEI dùng được ngay, persNamer giảm hẳn phần việc thủ công khi tạo các mục nhân danh có cấu trúc cho ấn bản học thuật kỹ thuật số.

Bài toán kiểm soát thẩm quyền trong TEI

Ấn bản học thuật kỹ thuật số thường đòi hỏi định danh chính xác các nhân vật lịch sử, kể cả tên chuẩn hóa và năm sinh năm mất. Để kiểm soát thẩm quyền nhất quán trong suốt một dự án, người ta phải:

Nhận diện nhân vật trong văn bản lịch sử
Tìm dữ liệu có thẩm quyền về họ
Tạo các mục TEI đúng định dạng
Bảo đảm tham chiếu nhất quán trong toàn dự án

Các bước này thường làm bằng tay, tốn thời gian và dễ thiếu nhất quán.

persNamer vận hành ra sao

persNamer tự động hóa quy trình ấy bằng cách:

Lấy dữ liệu VIAF: Từ một mã định danh VIAF, công cụ truy xuất dữ liệu RDF qua cơ chế thương lượng nội dung HTTP
Trích xuất thông tin chính: Phân tích RDF để lấy tên ưu tiên, ngày sinh và ngày mất
Sinh thẻ đánh dấu TEI: Tạo ra hai đoạn XML thiết yếu:
- Một mục trong tệp thẩm quyền (phần tử <person> với xml:id được sinh tự động, <persName>, <birth>, <death> và <idno type="VIAF">)
- Một thẻ chú giải riêng (<persName> với thuộc tính ref trỏ về mục thẩm quyền)

Đầu ra kép này cho phép người biên tập duy trì một tệp thẩm quyền tập trung, đồng thời dễ dàng chèn thẻ chú giải vào văn bản TEI của mình.

Tính năng chính

Sinh mã định danh chuẩn hóa: Tạo XML ID nhất quán theo dạng pers-[familyname]-[givenname initial] (ví dụ pers-deteligny-c)
Phân tích RDF: Dùng rdflib để trích thông tin từ nhiều thuộc tính RDF khác nhau (ví dụ rdfs:label, schema:name, viaf:mainHead)
Giao diện dòng lệnh: Chạy đơn giản, chỉ cần một số VIAF làm đối số bắt buộc duy nhất
Đầu ra chi tiết: Cung cấp thông tin xử lý đầy đủ bên cạnh XML kết quả

Ví dụ sử dụng

python persNamer.py 314802260

Lệnh này cho ra:

<person xml:id="pers-deteligny-c">
 <persName>Charles deTéligny</persName>
 <birth>1535</birth>
 <death>1572-08-24</death>
 <idno type="VIAF">314802260</idno>
</person>

<persName ref="#pers-deteligny-c">Charles deTéligny</persName>

Ứng dụng trong nhân văn số

persNamer đặc biệt hữu ích cho:

Ấn bản học thuật kỹ thuật số cần kiểm soát thẩm quyền
Dự án mã hóa TEI làm việc với nhân vật lịch sử
Sáng kiến dữ liệu liên kết nối tài liệu với hồ sơ thẩm quyền
Bảo đảm tính nhất quán trên những kho ngữ liệu TEI lớn
Giảng dạy khái niệm kiểm soát thẩm quyền trong các khóa nhân văn số

Triển khai

persNamer được viết bằng Python và phụ thuộc vào:

requests cho các yêu cầu HTTP
rdflib để phân tích RDF
lxml để xử lý XML

Mã nguồn và tài liệu có tại .

Phân tích thư mục quy mô lớn bằng mô hình ngôn ngữ tiền huấn luyện

Thu, 07 Jul 2022 19:04:14 +0200

Tự động hóa là chìa khóa để hạ chi phí của các dự án nhân văn số. Cho đến nay, những công việc lặp đi lặp lại và tẻ nhạt của khâu biên tập trong môi trường học thuật hoặc do các học giả vốn đã quá tải gánh vác với giá đắt, hoặc được “khoán” cho sinh viên. Trong , tôi lập luận rằng phần lớn những việc bạc bẽo ấy không những có thể mà còn nên được tự động hóa. Tự động hóa khâu biên tập làm giảm tổng chi phí của các dự án nhân văn số. Quan trọng hơn cả, nó cho phép học giả ở những vùng thu nhập thấp công bố tài liệu quý một cách nhanh chóng và vừa túi tiền.

Trong , tôi đã cho thấy, chẳng hạn, mô hình ngôn ngữ tiền huấn luyện có thể đảm nhận phần lớn công việc gắn nhãn XML của một ấn bản kỹ thuật số.

Trong bài này, tôi trình bày ví dụ thứ hai, lần này với thư mục.

Vấn đề

Lập một cơ sở dữ liệu thư mục từ các tài liệu tham khảo được nhắc đến trong một bài báo học thuật là chuyện khá đơn giản. Ta có thể tra nhanh trên một mục lục như , tải tài liệu tham khảo về theo một định dạng nhất định, hoặc nhập tự động từ cơ sở dữ liệu cục bộ. Cách này ổn với một hai bài báo. Nhưng quá một số lượng tài liệu tham khảo nào đó, công việc trở nên khó nhằn và ngốn thời gian. Để khắc phục, ta có thể dùng các thuật toán phân tích như . Thế nhưng những thuật toán ấy có thể khó mở rộng quy mô. Khi tôi dùng anystyle để chuyển đổi hơn 150 tiểu luận học thuật trong của chúng tôi, số lỗi tích tụ lại đơn giản là không thể kiểm soát nổi. Nó không nhận ra đúng nhiều nguồn của chúng tôi – chẳng hạn nhầm những nhan đề dài dằng dặc của sách đầu thời cận đại thành thứ gì khác – và cũng không nhận ra những tài liệu ít điển hình hơn, như một trang web cụ thể, một video trực tuyến, v.v. Trình phân tích chạy tốt với điều kiện tác giả tuân thủ răm rắp quy tắc của một chuẩn quen thuộc như Chicago, Turabian hay MLA. Hễ chệch khỏi chuẩn là có lỗi.

Giải pháp

Đây là chỗ mô hình ngôn ngữ tiền huấn luyện có thể giúp sức, bởi chúng nắm bắt rất nhanh quy luật của bất kỳ kiểu trích dẫn thư mục nào , kể cả kiểu do chính bạn nghĩ ra, và chỉ cần vài ví dụ là chuyển đổi được đúng đắn một khối lượng lớn thư mục đã định dạng thành một .

Đầu năm 2021, tôi may mắn được tiếp cận sớm của OpenAI. Codex là mô hình cho phép người dùng dịch ngôn ngữ tự nhiên sang mã và ngược lại. OpenAI tuyên bố nó thành thạo hơn chục ngôn ngữ lập trình; và dù API của nó, vào lúc tôi viết bài này, vẫn ở dạng beta, nó đã vận hành những ứng dụng phổ biến như của GitHub.

Sau khi vọc API này một hồi, tôi nhận ra nó cũng làm việc rất tốt với thứ mã đơn giản hơn như BibTeX.

Và thực tế, tôi chỉ cần dùng bốn ví dụ trong câu lệnh đầu vào là mọi thứ chạy ổn định.

Câu lệnh đầu vào

References: Bayle, Ariane. “Patients exemplaires: la correspondance médicale de Fioravanti.” In Vulgariser la médecine. Du style médical en France et en Italie, edited by Andrea Carlino and Michel Jeanneret, 181–212. Geneva: Droz, 2009.

Berns, Andrew D. The Bible and Natural Philosophy in Renaissance Italy: Jewish and Christian Physicians in Search of Truth. Cambridge: Cambridge University Press, 2015.

Gabler, Hans Walter. “Theorizing the Digital Scholarly Edition.” Literature Compass 7, no. 2 (2010): 43–56. .

Findlen, Paula. Possessing Nature: Museums, Collecting, and Scientific Culture in Early Modern Italy. Berkeley: University of California Press, 1994.

@incollection{bayle2009,
 author = {Bayle, Ariane},
 booktitle = {Vulgariser la médecine. Du style médical en France et en Italie},
 title = {Patients exemplaires: la correspondance médicale de Fioravanti},
 editor = {Carlino, Andrea and Michel Jeanneret},
 year = {2009},
 address = {Geneva},
 publisher = {Droz},
 langid = {french}
}
@book{berns2015,
 title = {The Bible and Natural Philosophy in Renaissance Italy: Jewish and Christian Physicians in Search of Truth},
 author = {Berns, Andrew D.},
 address = {Cambridge},
 publisher = {Cambridge University Press},
 langid = {english},
 date = {2015}
}
@article{gabler2010,
 author = {Gabler, Hans Walter},
 title = {Theorizing the Digital Scholarly Edition},
 journal = {Literature Compass},
 volume = {7},
 number = {2},
 pages = {43-56},
 doi = {10.1111/j.1741-4113.2009.00675.x},
 langid = {english},
 year = {2010}
}
@book{findlen1994,
 title = {Possessing Nature: Museums, Collecting, and Scientific Culture in Early Modern Italy},
 author = {Findlen, Paula},
 address = {Berkeley},
 publisher = {University of California Press},
 langid = {english},
 date = {1994}
}

Kết quả

thật ấn tượng: hơn 2.000 tài liệu tham khảo được chuyển đổi chỉ trong vài ngày. Cách này không chỉ tái hiện chính xác mẫu hình trong câu lệnh đầu vào của tôi, mà còn thêm đúng những loại mục và loại trường không hề có trong câu lệnh ấy. Nói cách khác, GPT-3 nói BibTeX trôi chảy như tiếng mẹ đẻ. Và có lẽ đáng ngạc nhiên hơn đối với một mô hình chủ yếu được huấn luyện bằng tiếng Anh: nó nhận ra tất cả các ngôn ngữ (Nga, Pháp, Ý, Latinh, Hy Lạp, Đức, Tây Ban Nha, v.v.) và lần nào cũng thêm đúng trường langid.

Lưu ý

GPT-3 hiện bị giới hạn về kích thước đầu vào và đầu ra: nó chỉ xử lý được tối đa 2.048 token ngôn ngữ. Một khi giới hạn này được gỡ bỏ, cùng công việc ấy có lẽ chỉ mất một giờ hoặc ít hơn.

Khá bất ngờ, GPT-3 còn bổ sung thông tin không có trong tài liệu tham khảo gốc.

Baillot, Anne, and Anna Busch. “Editing for Man and Machine.” In Users of Scholarly Editions: Editorial Anticipations of Reading, Studying and Consulting, Vol. 13. Variants (Journal of the European Society for Textual Scholarship). Leicester, 2015.

Với tài liệu tham khảo này chẳng hạn, GPT-3 đã thêm đường dẫn cố định tới kho truy cập mở ( ) nơi có thể đọc bài báo, kể cả các trường đặc thù HAL_ID và HAL_VERSION do kho HAL đặt ra:

@inproceedings{baillot2015,
 title = {Editing for Man and Machine},
 author = {Baillot, Anne and Busch, Anna},
 year = 2015,
 booktitle = {Users of Scholarly Editions: Editorial Anticipations of Reading, Studying and Consulting},
 address = {Leicester},
 series = {Variants (Journal of the European Society for Textual Scholarship)},
 volume = 13,
 editor = {Bruhn, Siglinde and Schreiber, Manfred},
 langid = {english},
 hal_id = {halshs-01233380},
 hal_version = {v1}
}

Những bổ sung này cho thấy GPT-3 không chỉ phân tích tài liệu tham khảo, mà còn hoàn thiện nó dựa trên những gì đã học từ trước. Về điểm này, sẽ thú vị nếu xem nó có hành xử tương tự với những tài liệu ra đời sau thời điểm huấn luyện GPT-3 hay không…

Hạn chế

Tuy nhiên, GPT-3 không hoàn hảo. Nó cần có người giám sát. Một trong những hạn chế đã biết của nó là (hallucination): đôi khi nó tự sáng tác và đưa ra những phỏng đoán khó tin.

Trong thử nghiệm của tôi, cơn lú lẫn của GPT-3 lộ rõ khi nó tự ý đổi họ một tác giả từ “Ruscelli” thành “Ruscello”. Về mặt kỹ thuật, đây không hẳn là lỗi, vì họ người Ý đầu thời cận đại có thể dùng ở dạng số nhiều hay số ít không phân biệt. Nhưng quy ước ngày nay là họ ở dạng nào thì giữ nguyên dạng ấy. Ngày nay chẳng ai gọi Machiavelli là Machiavello, cũng như ta phải dùng tên Rossello chứ không phải Rosselli. GPT-3 bỏ qua quy ước này vì thiếu ý thức về niên đại chăng? Hay vì nó phỏng đoán dựa trên những họ lân cận, mà ở phần thư mục này tình cờ đều ở dạng số ít (Bariletto, Cesano, Rossello)? Ai mà biết được.

@book{rossello1565,
 title = {Della summa de’ secreti universali},
 author = {Rossello, Timoteo},
 address = {Venice},
 publisher = {Giovanni Bariletto},
 langid = {italian},
 date = {1565}
}
@book{ruscello1559,
 title = {La seconda parte de’ secreti del Reverendo Donno Alessio Piemontese},
 author = {Ruscello, Girolamo},
 address = {Pesaro},
 publisher = {Bartolomeo Cesano},
 langid = {italian},
 date = {1559}
}

Kết luận

Được viết ra trong bốn năm cộng tác miệt mài, hơn 150 tiểu luận không chỉ cung cấp thông tin thiết yếu về bản thảo mà chúng tôi đã biên tập và dịch, mà còn chứa những thông tin thư mục quý giá.

Gom các tài liệu tham khảo ấy vào một cơ sở dữ liệu cho phép người biên tập đổi định dạng thư mục trong nháy mắt, linh hoạt hơn trong cách trình bày thông tin theo ý mình. Cơ sở dữ liệu này còn cho biết nhiều điều về ấn bản và về dự án đã làm nên nó, mở ra những hướng phân tích mới cho giới nghiên cứu. Một cơ sở dữ liệu như thế có thể được hoàn thành với độ chính xác cao và trong thời gian kỷ lục.

Đành rằng vẫn có thể lọt vài lỗi, nhất là do thói bịa đặt của GPT-3. Song các thế hệ mô hình ngôn ngữ tiền huấn luyện sau này sẽ làm dịu bớt vấn đề ấy.

Avviso | Công bố những bản tin đã làm nên thời hiện đại (1537—1743)

Sun, 12 Dec 2021 00:00:00 +0000

Mục tiêu chính của Dự án Avviso là số hóa, bảo tồn, lập mục lục, biên tập, đặt vào bối cảnh và phổ biến 35.000 bản tin chép tay đầu thời cận đại, gọi là avvisi, vốn thuộc bộ sưu tập của nhà Medici và nay được lưu giữ tại Lưu trữ Quốc gia Florence. Việc lập mục lục, số hóa và phổ biến khoảng 35.000 avvisi – những bản tin chép tay đầu thời cận đại – được thực hiện qua nền tảng Medici Interactive Archive của Medici Archive Project.

Biên tập hiệu quả

Sun, 12 Dec 2021 00:00:00 +0000

Ấn bản phê bình kỹ thuật số là thứ tốn kém. Công việc chuyển tự, dịch thuật và chú giải mà một đội ngũ trình độ cao phải đảm nhận tiêu tốn hàng nghìn giờ lao động, đòi hỏi nguồn tài trợ đáng kể cùng sự hậu thuẫn lâu dài của thiết chế.

Xét ở một mặt, việc những dự án nhân văn số có tiếng có thể huy động được khoản tiền khổng lồ cần thiết để vận hành là một điều may.

Thế nhưng, dựa dẫm quá nhiều vào sự hào phóng của các quỹ giàu có, các trường đại học và cơ quan chính phủ, cộng với nhu cầu nhân lực lớn kéo dài, không phải là một mô hình kinh tế khả thi cho tương lai. Ngày càng nhiều học giả đủ sức làm những ấn bản kỹ thuật số đầy tham vọng về nguồn sử liệu gốc, đúng vậy; nhưng đó vẫn là đặc quyền của vài quốc gia giàu có, và qua đó càng củng cố quyền bá chủ văn hóa của họ.

Muốn tài liệu lịch sử từ khắp nơi trên thế giới đến được với công chúng rộng rãi, chi phí của ấn bản phê bình kỹ thuật số phải giảm đi nhiều bậc .

Trong loạt bài blog này, tôi đánh giá các cách tiếp cận và những “viên gạch” công nghệ mà học giả ở bất cứ đâu cũng có thể dùng để công bố nguồn sử liệu gốc nhanh hơn và với chi phí tối thiểu.

Tôi sẽ đặc biệt xem xét các công nghệ như học máy, blockchain và lưu trữ phi tập trung.

Tự động hóa đánh dấu trong ấn bản học thuật kỹ thuật số

Mon, 22 Nov 2021 18:15:00 +0000

Mở đầu

Làm sao xây dựng ấn bản học thuật kỹ thuật số mà không phải dốc cạn ngân quỹ? Trong bài này, bài đầu tiên của loạt bài về biên tập hiệu quả, tôi đánh giá xem các mô hình ngôn ngữ tiền huấn luyện có thể đóng vai trò gì trong việc tự động hóa các công việc biên tập, chẳng hạn như đánh dấu ngữ nghĩa.

Mục Lục

Vấn đề

Một công trình của tình yêu

Đã yêu thì chẳng ai tính toán thiệt hơn… tục ngữ xưa bảo vậy. Với ấn bản học thuật kỹ thuật số, điều ấy càng đúng: chuyển tự, dịch thuật và chú giải trong quá trình xây dựng chúng ngốn hàng nghìn giờ lao động, và như trường hợp của , do hàng trăm cộng tác viên trình độ cao đảm nhận.

Xét ở một mặt, việc những dự án nhân văn số có tiếng có thể huy động được khoản tiền khổng lồ cần thiết để vận hành là một điều may. Thế nhưng, dựa dẫm quá nhiều vào sự hào phóng của các quỹ giàu có, các trường đại học và cơ quan chính phủ, cộng với nhu cầu nhân lực lớn kéo dài, không phải là một mô hình kinh tế khả thi cho tương lai.

Thực vậy, nếu muốn khuyến khích học giả khắp nơi trên thế giới đưa tài liệu lịch sử đến với công chúng rộng rãi hơn, thì chi phí của ấn bản phê bình kỹ thuật số phải giảm đi nhiều bậc .

Một ngưỡng cửa cao

Nghe có vẻ nghịch lý, nhưng giải pháp có thể đến từ chính những dự án tốn nhiều công sức như , bởi chúng là một tập huấn luyện quý giá để tự động hóa một số công việc khó nhằn và lặp đi lặp lại nhất của biên tập kỹ thuật số, chẳng hạn như đánh dấu.

Không phải đánh dấu là chuyện không đáng kể. Trái lại, đánh dấu đã trở thành thành phần không thể thiếu của bất kỳ dự án học thuật kỹ thuật số nghiêm túc nào. Được chuẩn hóa, nó cho phép ta ghi lại càng nhiều càng tốt các khía cạnh của tài liệu và của văn bản mà tài liệu ấy chuyển tải: cấu trúc, ghi chú bên lề, đoạn bị xóa, dị bản, loại giấy, vết ố, nét chữ… muốn gì có nấy.

Ví dụ sau đây, trích từ , cho thấy đánh dấu làm giàu văn bản bằng thông tin bổ sung ra sao (hạng mục, cấu trúc, trường ngữ nghĩa, đoạn bị xóa, v.v.), và rốt cuộc đem lại cho ấn bản kỹ thuật số một lợi thế đáng kể so với tổ tiên bằng giấy của chúng.

Plain Text XML Markup

Plain Text	XML Markup
`Pour rompre grenades et donner violence aux artifices de foeu Mects parmy la pouldre et la sixiesme partye dicelle de vif argent`	`<div id="p008r_2" categories="arms and armor"> <head>Pour rompre <wp>grenades</wp> et donner<lb/> violence aux <wp>artifices de foeu</wp></head> <ab>Mects parmy la <m>pouldre</m> <del><ms>six fois autant</ms> de <m>vif argent</m></del><lb/> <del>et</del> <ms>la sixiesme partye</ms> dicelle de <m>vif argent</m></ab> </div>`

Pour rompre grenades et donner
violence aux artifices de foeu

Mects parmy la pouldre et la sixiesme
partye dicelle de vif argent

<div id="p008r_2" categories="arms and armor">
<head>Pour rompre <wp>grenades</wp> et donner<lb/>
violence aux <wp>artifices de foeu</wp></head>
<ab>Mects parmy la <m>pouldre</m>
<del><ms>six fois autant</ms> de
<m>vif argent</m></del><lb/>
<del>et</del> <ms>la sixiesme partye</ms>
 dicelle de <m>vif argent</m></ab>
</div>

Thông tin này không chỉ quý cho mục đích lưu trữ, mà như tôi đã chỉ ra trong những dịp trước, còn quý cho mục đích tổng hợp và phân tích. Dẫu vậy, kiểu chú giải này có thể cực kỳ tốn thời gian, vì cùng một văn bản thường phải có mặt dưới nhiều dạng khác nhau: bản dịch, bản chuyển tự, bản hiện đại hóa, v.v.

Giải pháp

Transformer: con đường đơn giản nhất đến tự động hóa?

Năm 2020, rầm rộ công bố họ mô hình ngôn ngữ đa dụng quy mô lớn mới nhất của mình, gọi là GPT-3, viết tắt của “Generative Pre-trained Transformer 3”. Transformer là một đột phá khá gần đây của trí tuệ nhân tạo. Chúng học nhiệm vụ mới với tốc độ ấn tượng, chỉ bằng cách đọc một câu lệnh (prompt) và xem qua một số rất ít ví dụ. Chúng cũng có thể được huấn luyện thêm bằng một tập dữ liệu chuyên biệt (tinh chỉnh – fine-tuning), qua đó cải thiện độ trễ và độ chính xác. Vì lẽ đó, người ta nói GPT-3 và các transformer tương tự là những – kẻ học từ vài ví dụ.

OpenAI tuyên bố GPT-3 chứa con số kỷ lục 175 tỷ tham số, được huấn luyện trên hơn 570 GB văn bản, phần lớn là tài liệu tiếng Anh có lẽ lấy từ . Nhờ kích thước khổng lồ ấy, GPT-3 đã đặt ra chuẩn mực mới trong lĩnh vực này, thực hiện ngay lập tức đủ loại nhiệm vụ với độ chân thực đáng lo ngại. Nó viết nghe rất có lý, trong phòng chat, , , dịch tài liệu, giải thích thuật ngữ chuyên môn, v.v.

Được tiếp cận sớm API của OpenAI từ tháng 5 năm 2021, tôi đã có dịp thử nghiệm khả năng của mô hình trong một số nhiệm vụ vốn được xem là khó: dịch thơ Pháp và văn bản tân Latinh sang tiếng Anh, giải thích phép loại suy, thậm chí giản lược Quyển 4 của Groundwork for a Metaphysics of Morals (Kant) cho một đứa trẻ bảy tuổi (dù chưa thật thuyết phục).

Codex

Một trong những bước phát triển mới nhất của GPT-3 nhắm vào ngôn ngữ máy tính. Mang tên Codex, mô hình này dịch ngôn ngữ tự nhiên sang ngôn ngữ lập trình và ngược lại. Chẳng hạn, nếu tôi cần một biểu thức chính quy để “chỉ tìm những từ bắt đầu bằng chữ in hoa”, GPT-3 lập tức dịch nó thành một biểu thức chính quy chạy được: [A-Z]+\w+.

OpenAI tuyên bố Codex làm việc được với khoảng chục ngôn ngữ lập trình, trong đó có Python, JavaScript, Go, Perl, PHP, Ruby và Swift. Bằng cách chuyển mã giả thành mã thật một cách liền mạch, Codex cho phép người ta tập trung không phải vào cú pháp rườm rà của một ngôn ngữ lập trình, mà vào các bước logic và chiến lược giúp ứng dụng giải quyết vấn đề.

Ngoài OpenAI

Dĩ nhiên, OpenAI không phải tay chơi duy nhất. Như đã nói, Viện Hàn lâm Trí tuệ Nhân tạo Bắc Kinh năm 2021 đã công bố một mô hình còn lớn hơn và mạnh hơn, gọi là Wu Dao 2. Nvidia và Microsoft bắt tay tạo ra mô hình mang cái tên rất hợp cảnh Megatron-Turing NLG 530B. Những công ty khởi nghiệp nhỏ hơn như và cũng cung cấp API cho công chúng. Đáng nhắc đến nữa là các sáng kiến mã nguồn mở như . Cảnh quan AI dĩ nhiên biến chuyển rất nhanh; để theo dõi các sáng kiến mới trong lĩnh vực, hãy xem .

Các thử nghiệm

Lưu ý

Mục tiêu của các thử nghiệm này là tìm ra con đường tiết kiệm nhất để tự động hóa các công việc biên tập một cách đáng tin cậy. Có thể có người cho rằng một số việc trong đó cũng tự động hóa được bằng thuật toán học có giám sát. Chúng ta sẽ xem xét giả thuyết ấy trong một bài sau.

Một transformer như GPT-3 có thể học cách chú giải, chẳng hạn, một bản thảo kỹ thuật và khoa học thế kỷ XVI không?

Thử nghiệm 1 – Phân loại văn bản.

Bắt đầu bằng thứ tương đối đơn giản. Là “kẻ học từ vài ví dụ”, GPT-3 hẳn phải nhanh chóng hiểu được nhóm biên tập của chúng tôi đã phân loại các mục trong Ms Fr 640 như thế nào.

Thiết kế câu lệnh

Để huấn luyện, tôi dùng một câu lệnh tối giản và chọn bốn mục ngắn ở dạng văn bản thuần làm ví dụ, gồm một mục về “y học”, “vũ khí và áo giáp” và “hội họa”.

Kiểm tra

Rồi tôi chép vào một đoạn khác, không nằm trong chuỗi ban đầu:

Working neatly
Never put down, if you can, two colors one on top of the other.
But next, having made your design carefully, keep the place of shadows for them alone,
& also separately that of lights & highlights, without layering one color all over & then highlighting or else shading on it.
And in this way, you further your work, economize your colors & work neatly.
Which is the reason that, the colors not being muddled nor mixed together, they do not die & you soften the colors better, since they are not so thick.

Kết quả hoàn toàn khớp với nội dung:

<categories="painting">

Nếu thử với một mục thuộc hạng mục thậm chí không có trong bộ văn bản ban đầu dùng để huấn luyện GPT-3, kết quả thật bất ngờ.

<categories="jewelry">

Kết quả

Hạng mục “jewelry” (nữ trang) không tồn tại trong ấn bản Ms. Fr. 640 của chúng tôi. Nhóm biên tập hạng mục rộng hơn là “Stones” (đá). Dù vậy, trực giác của GPT-3 là tốt, và cho thấy chỉ cần huấn luyện thêm chút nữa, nó có thể học cách phân loại bất kỳ mục nào của Ms. Fr. 640, thậm chí cả các văn bản kỹ thuật thế kỷ XVI tương tự.

Thử nghiệm 2 – Đánh dấu ngữ nghĩa

Nâng thanh xà lên cao hơn một chút. Nếu transformer như GPT-3 học được cách phân loại văn bản theo những tiêu chí biên tập cụ thể, liệu chúng có nhận diện được một phần thẻ đánh dấu của văn bản không?

Lưu ý

Secrets of Craft and Nature dùng nhãn ngữ nghĩa và nhãn cấu trúc. Tiếc là GPT-3 không xử lý được hình ảnh, khác với các dự án như . Nhiều khả năng các phiên bản GPT sau này sẽ có năng lực đó, vốn cần thiết để nhận ra phần lớn các khía cạnh cấu trúc và vật chất của một tài liệu. Ta sẽ bỏ qua những thẻ ấy và tập trung vào loại đánh dấu không đòi hỏi nhận dạng hình ảnh.

Thiết kế câu lệnh

Thẻ ngữ nghĩa bao gồm tham chiếu đến động vật, thực vật, địa danh, cảm giác, v.v. Trong câu lệnh huấn luyện, tôi chọn vài ví dụ từ ấn bản:

<!--Input prompt-->
The following is a list of words and their corresponding semantic tags

cannons: <wp>cannons</wp>
powder: <m>powder</m>
flasks: <tl>flasks</tl>
wooden: <m>wooden</m>
iron: <m>iron</m>
parchment: <m>parchment</m>
goats: <al>goats</al>
lambs: <al>lambs</al>
leather: <m>leather</m>
earth: <m>earth</m>
fine fatty earth: <m>fine fatty earth</m>
Venice: <pl>Venice</pl>
Flemish: <pl>Flemish</pl>
almond: <pa>almond</pa>
almond oil: <m><pa>almond</pa> oil</m>
walnuts skin: <m><pa>walnuts</pa> skin</m>
molten lead: <m>molten lead</m>
today: <tmp>today</tmp>
In the past: <tmp>In the past</tmp>
Clockmakers: <pro>Clockmakers</pro>
red copper: <m>red copper</m>
crucible: <tl>crucible</tl>
bellows: <tl>bellows</tl>
charcoal: <m>charcoal</m>
founders: <pro>founders</pro>

Kiểm tra

Thử vài từ dễ với mô hình Davinci-codex, như Apothecary, smoke, glassmakers, latten và snake. Kết quả tức thì và không một lỗi:

<!--Output-->
Apothecary: <pro>Apothecary</pro>
smoke: <m>smoke<m>
glassmakers: <pro>glassmakers</pro>
latten: <m>latten</m>
snake: <al>snake</al>

Bài kiểm tra khó hơn dùng từ ghép, như copper plates, walnut oil và wood block. Mục đích là xem GPT-3 có xử lý đúng các thẻ lồng nhau hay không.

<!--Output-->
copper plates: <m>copper plates</m>
walnut oil: <m><pa>walnut</pa> oil</m>
wood block: <m>wood block</m>

Kết quả lần này nửa được nửa không: Davinci-codex chỉ gắn nhãn đúng walnut oil, còn bỏ sót các thẻ lồng tl và m trong copper plates và wood block. Tuy nhiên, như bài kiểm tra tiếp theo dưới đây cho thấy, những lỗi này có thể giảm bớt bằng một câu lệnh huấn luyện tốt hơn. Sau khi thêm năm ví dụ nữa về thẻ lồng nhau, Davinci-codex trả về kết quả gần như hoàn hảo, chỉ sai một chỗ (oil paintbrushes):

<!--Output-->
cannon powder: <m><wp>cannon</wp> powder</m>
arquebus powder: <m><wp>arquebus</wp> powder</m>
oil paintbrushes: <m><al>oil</al> paintbrushes</m>
sheep footbones: <m><al>sheep</al> footbones</m>
bronze mortar: <tl><m>bronze</m> mortar</tl>

Kết luận

Cần nhớ rằng các bài kiểm tra này được thực hiện trên những mẩu văn bản ngắn. Tôi ngờ rằng nếu cung cấp nhiều ngữ cảnh hơn trong ví dụ và trong câu lệnh, các mô hình GPT-3 sẽ cho kết quả còn tốt hơn nữa. Hơn thế, tinh chỉnh mô hình bằng những tập huấn luyện chuyên biệt chắc chắn sẽ nâng độ chính xác gắn nhãn lên thêm.
Dẫu các thử nghiệm này còn cần được tiến hành ở quy mô lớn hơn để chứng minh độ tin cậy của mô hình ngôn ngữ tiền huấn luyện, ta vẫn có thể kết luận rằng cách tiếp cận này cho phép người biên tập tự động hóa nhiều công việc chú giải chỉ qua vài bước đơn giản, và qua đó có thể tiết kiệm rất nhiều thời gian lẫn tiền bạc.

Trực quan hóa bản thảo 2 (cập nhật)

Sat, 20 Nov 2021 16:00:00 +0000

Như đã hứa, đây là phiên bản mới của sơ đồ cây tương tác đã giới thiệu trong , lần này có hai chế độ xem.

Lưu ý

Để xem tốt nhất, hãy chắc rằng trang web đang ở chế độ Sáng (nhấp vào biểu tượng mặt trăng ở góc trên bên phải).

Group folios by category

Một trình duyệt trực quan cho kho lưu trữ

Sun, 20 Jun 2021 16:00:00 +0000

Vấn đề

Ấn bản kỹ thuật số mang trong mình một nghịch lý: chúng đưa những tài liệu ít người biết đến tới công chúng rộng rãi, nhưng khi tài liệu bị phi vật chất hóa, người đọc mất đi các kênh cảm nhận quen thuộc, dễ mất phương hướng, thậm chí nản lòng trước nội dung. Duyệt qua những kho tài liệu đồ sộ vì thế trở nên nặng nề và đáng ngại. Điều này không chỉ đúng với người chưa quen nghiên cứu lưu trữ, mà cả với những độc giả gặp khó khăn về nhận thức.

Giải pháp

Đây là chỗ siêu dữ liệu lưu trữ phát huy tác dụng. Từ những dữ liệu ấy, ta có thể tạo ra các hình ảnh trừu tượng tương tác, đem lại cho người đọc một kênh cảm nhận khác, vừa tiện dụng hơn vừa dễ tiếp cận hơn. Để kho lưu trữ có thể duyệt bằng mắt, một sơ đồ cây (treemap) – hay bất kỳ sơ đồ nào phân tách hiệu quả dữ liệu phân cấp – là đủ.

Thử nghiệm

Thử nghiệm đầu tiên của tôi phỏng theo mã của D3.js, có bổ sung siêu liên kết. Sơ đồ biểu diễn bản thảo BnF Ms Fr 640, các tờ của nó, và các mục trong từng tờ. Màu sắc thể hiện hạng mục chiếm ưu thế. Rê chuột lên mỗi mục sẽ hiện thêm dữ liệu, kể cả siêu liên kết dẫn tới bản thảo.
Nhờ vậy, sơ đồ cây trở thành một mục lục trực quan tương tác, cho người đọc một cái nhìn tổng quan rất nhanh và linh hoạt, không chỉ về nội dung bản thảo mà còn về kích thước của từng tờ, từng mục.
~~Trong những tháng tới, tôi sẽ tiếp tục thử nghiệm ý tưởng này với các sơ đồ và hệ phân cấp khác… Xin hãy đón xem!~~ Để xem phiên bản mới của sơ đồ cây, nhấp vào .

Lưu ý

Để xem tốt nhất, hãy chắc rằng trang web đang ở chế độ Sáng (nhấp vào biểu tượng mặt trăng ở góc trên bên phải).

Click any cell to zoom in, or the top to zoom out.

Kho lưu trữ trong một cái nhìn

Mon, 24 May 2021 16:00:00 +0000

Vấn đề

Kho lưu trữ lịch sử có thể hỗn độn đến phát nản. Phông Mediceo del Principato tại là một ví dụ điển hình. Chỉ một phần nhỏ của phông này được lập mục lục; vô số tài liệu nằm rải rác trong hơn 6.500 tập mà chẳng theo lý do nào rõ rệt. Đã vậy, kho lưu trữ chỉ cho phép mỗi người đọc một số lượng tập hạn chế (ở đây người ta gọi là filze). Bình thường, giới hạn là 4 filze mỗi ngày. Nhưng trong thời đại dịch, con số ấy tụt xuống còn 4 filze mỗi hai tuần. Không có mục lục chi tiết, quy mô đồ sộ của kho lưu trữ buộc nhà nghiên cứu phải nghĩ ra chiến lược để nhanh chóng tìm được thứ mình cần.

Giải pháp

Có người trông vào may rủi; người khác thì cố đoán cho có căn cứ dựa vào niên đại, người nhận, người gửi, nguồn gốc của phông lưu trữ, ngôn ngữ, v.v. Song nếu nhìn tất cả các biến ấy cùng một lúc, ta có thể phát hiện những quy luật bất ngờ trong cấu trúc của kho lưu trữ và đoán trúng hơn. Kinh nghiệm của tôi cho thấy: siêu dữ liệu mà nhà nghiên cứu thường gom vào bảng tính, một khi được vẽ thành đồ thị, giúp người ta nắm tình hình trong kho lưu trữ tốt hơn hẳn.

Thử nghiệm

Nghiên cứu hiện tại của tôi xoay quanh thư từ của một điệp viên thế kỷ XVI. Thư của ông nằm rải rác trong hàng trăm filze. Chúng được viết dưới nhiều danh tính khác nhau, gửi cho nhiều người nhận khác nhau – đôi khi khá bất ngờ – từ nhiều nơi khác nhau, v.v. Để tìm ra những filze nhiều khả năng chứa thư cần tìm, tôi đã dựng một bảng điều khiển: một ứng dụng web trực quan hóa dữ liệu tương tác ( ) kết nối đủ loại dữ liệu, trong đó có thông tin địa lý và niên đại, với một sơ đồ phân cấp ( ) của phông lưu trữ. Chỉ liếc qua bảng điều khiển, tôi biết ngay những gì đã tìm thấy, chúng chiếm tỷ lệ bao nhiêu, và đại khái nên tìm thư mới ở đâu. Hơn nữa, nhấp vào một biến cụ thể là mọi sơ đồ đều cập nhật để hiển thị các tương quan tương ứng.

Bước tiếp theo

Có lẽ quan trọng hơn cả: bảng điều khiển này có thể được dùng lại như một mục lục trực quan. Khi ấn bản phê bình của những lá thư này được công bố trực tuyến, bảng điều khiển sẽ là một lối vào khác, từ đó người đọc có thể duyệt qua dữ liệu. Vì lý do bảo mật, hiện tôi chỉ có thể đưa ra một ảnh chụp màn hình đã che bớt, nhưng sang năm tôi sẽ công bố bảng điều khiển hoàn chỉnh. Trong lúc chờ đợi, một bản mẫu sẽ sớm ra mắt. Xin hãy đón xem!

Making & Knowing Project

Sun, 27 Dec 2020 00:00:00 +0000

, do Pamela H. Smith sáng lập năm 2014 và quy tụ hàng trăm cộng tác viên, là một sáng kiến nghiên cứu và giảng dạy thuộc tại Đại học Columbia.

Với tư cách nghiên cứu viên sau tiến sĩ, tôi đã tham gia dự án, trong đó có việc xây dựng của BnF Ms. Fr. 640. Bản thảo tiếng Pháp thế kỷ XVI độc nhất vô nhị này cho ta cái nhìn tận mắt về nghề thủ công và vật liệu ở một thời mà nghệ sĩ cũng là nhà khoa học.

Ấn bản kỹ thuật số công bố miễn phí một khối dữ liệu dồi dào trên của mình. Trong năm tới, tôi dự định đăng một loạt bài blog về ấn bản này và dữ liệu của nó. Tôi sẽ cho thấy tải về và phân tích văn bản bằng Python hay R dễ dàng đến mức nào. Xin hãy đón xem!

Trực quan hóa đánh dấu ngữ nghĩa trong BnF Ms. Fr. 640

Sun, 20 Dec 2020 18:15:00 +0000

Tổng quan

Những ấn bản học thuật giàu dữ liệu chứa các chú giải biên tập quý giá mà ta có thể trích xuất, phân tích và trực quan hóa cho đủ loại mục đích nghiên cứu. Đó là trường hợp của , ra mắt năm 2020, với tệp siêu dữ liệu có thể tải về từ kho GitHub của dự án. Trong bài này, tôi chỉ cách gom tất cả các biến ấy vào một ma trận tương quan và trực quan hóa chúng theo nhiều cách khác nhau.

Dữ liệu

Making and Knowing Project tạo ra một bảng tính chứa thông tin cập nhật về nội dung bản thảo: entry_metadata.csv. Tệp này lấy được từ của Making & Knowing. Ngoài ra, ta có thể tự tạo các tệp .csv theo ý mình, với nhiều thẻ đánh dấu hơn, nhờ xuất sắc của Matthew Kumar – một phiên bản Python của BnF Ms. Fr. 640.

Thiết lập Python

Ta sẽ dùng Pandas để xử lý dữ liệu, Matplotlib và seaborn cho bản đồ nhiệt, và cuối cùng là NetworkX để tạo mạng lưới dựa trên tương quan.
Với loại biến này, ta tránh phương pháp Pearson và dùng phương pháp 𝜙𝐾 thay thế. Hãy chắc rằng bạn đã phương pháp tương quan này và PhiK, thư viện tương ứng của nó.

#install packages
pip install phik

# import modules
import pandas as pd
import matplotlib.pyplot as plt
import seaborn as sns
import networkx as nx

Chuẩn bị dữ liệu

Trước hết, tải tệp siêu dữ liệu mới nhất của ấn bản từ của họ, trong thư mục metadata. Ta chỉ chọn những cột cần thiết. Cho phần trình diễn này, tôi chọn tất cả thẻ ngữ nghĩa của bản dịch tiếng Anh tl, nhưng bạn cũng có thể chọn thẻ của bản chuyển tự tiếng Pháp tc, hoặc bản chuẩn hóa tcn. Dữ liệu ở dạng giá trị phân cách bằng dấu chấm phẩy, và ta cần Python đếm hộ. Ta sẽ dùng phương pháp stack-unstack với biểu thức chính quy [^;\s][^\;]*[^;\s]*. Để ma trận dễ đọc hơn, ta đổi tên từng cột. Nếu vội, bạn có thể bỏ qua bước này; chỉ cần nhớ rằng dataframe của ta ở giai đoạn này mang tên tagsrn.

# load the edition's metadata
df = pd.read_csv('entry_metadata.csv')

# select the tags you want to correlate
dftags = df[['al_tl', 'bp_tl', 'cn_tl', 'df_tl', 'env_tl', 'm_tl', 'md_tl', 'ms_tl', 'mu_tl', 'pa_tl', 'pl_tl', 'pn_tl', 'pro_tl', 'sn_tl', 'tl_tl', 'tmp_tl', 'wp_tl', 'de_tl', 'el_tl', 'it_tl', 'la_tl', 'oc_tl', 'po_tl']]

# count comma separated values
tagcount = dftags.stack(dropna=False).str.count(r'[^;\s][^\;]*[^;\s]*').unstack()

# rename columns
tagsrn = tagcount.rename(columns={'al_tl': 'animals', 'bp_tl': 'body parts', 'cn_tl': 'currency', 'df_tl': 'definitions', 'env_tl': 'environment', 'm_tl': 'material', 'md_tl': 'medical', 'ms_tl': 'measurement', 'mu_tl': 'music', 'pa_tl': 'plant', 'pl_tl': 'toponym', 'pn_tl': 'person', 'pro_tl': 'profession', 'sn_tl': 'sensory', 'tl_tl': 'tool', 'tmp_tl': 'temporal', 'wp_tl': 'weapons', 'de_tl': 'German', 'el_tl': 'Greek', 'it_tl': 'Italian', 'la_tl': 'Italian', 'oc_tl': 'Occitan', 'po_tl': 'Poitevin'})

Tính tương quan

Khi dataframe đã sạch, ta chuyển sang tính hệ số tương quan giữa các biến. Ở bước này, điều cốt yếu là hiểu dữ liệu của mình và chọn đúng phương pháp tương quan thích hợp nhất. Gói pandas-profiling đặc biệt hữu ích cho việc đó.

# calculate correlation coefficient with the phi k method
cortag = tagsrn.phik_matrix()

cortag là ma trận tương quan của ta. Giờ có thể thử nhiều kiểu trực quan hóa khác nhau.

Trực quan hóa

Thứ đầu tiên đáng thử là hiển thị nó như một ma trận mã hóa bằng màu, dùng của seaborn.

Bản đồ nhiệt tương quan

f, ax = plt.subplots(figsize=(16, 14))
ax = sns.heatmap(cortag, linewidths=.03, vmin=0, cmap="Oranges", square=True)

Nếu quen văn bản, bạn sẽ thấy ngay bản đồ nhiệt này rất có lý. Chẳng hạn, tên người tương quan mạnh với tiếng Latinh, vì thời ấy – nhất là trong giới nhân văn chủ nghĩa thế kỷ XVI – người ta có thói quen Latinh hóa tên.

Có người sẽ bảo bản đồ nhiệt này chỉ nói lên điều hiển nhiên. Họ không hoàn toàn sai, và thoạt nhìn, các thẻ y học có vẻ là ví dụ điển hình: chúng tương quan, đúng như dự đoán, với bộ phận cơ thể, đơn vị đo lường và thực vật.

Nhưng đọc bản đồ nhiệt kỹ hơn, từng dòng một, ta có thể phát hiện những tương quan thú vị và bất ngờ. Việc các thẻ y học tương quan với từ tiếng Ý và tiếng Latinh, chẳng hạn, cho ta manh mối về nguồn gốc các bài thuốc trong Ms. Fr. 640. Tương tự, tương quan giữa nghề nghiệp, định nghĩa và đơn vị đo lường cho thấy căn tính nghề nghiệp định hình diễn ngôn kỹ thuật thế kỷ XVI đến mức nào.

Bản đồ cụm tương quan

Bản đồ nhiệt hữu ích trong bối cảnh “khám phá”, nhưng với người xem, chúng có thể hơi rối, nhất là khi bạn đang bàn về – hay vẫn đang tìm – những cụm ngữ nghĩa cụ thể trong bản thảo. Mô-đun clustermap của Seaborn có thể cho kết quả đáng chú ý.

clustermap = sns.clustermap(cortag, figsize=(12, 13), dendrogram_ratio=(.1, .2), vmin=0, cmap="Oranges", cbar_pos=(-.06, .12, .03, .68))

Ngoài chuyện trông như một con côn trùng bị vỡ điểm ảnh (pixelated – vâng, từ này có trong OED), bản đồ cụm phân biệt rõ các thẻ đứng lẻ (phía trên và bên trái) với những thẻ liên kết chặt chẽ hơn. Ta cũng nhận ra các cụm biệt lập, như âm nhạc và tiếng Poitevin (ai mà ngờ!), so với những cụm trung tâm hơn như đo lường, vật liệu, định nghĩa và vũ khí. Nghề nghiệp liên kết nhiều hơn, nhưng ít nhất trong ma trận tương quan cụ thể này, chúng không thuộc về một cụm riêng nào.

Mạng lưới tương quan

Nếu muốn cô đọng hơn nữa các tương quan trong ma trận, đồ thị mạng lưới là một giải pháp thanh nhã. Điều này đặc biệt đúng khi ta muốn truyền đạt về nội dung bản thảo.
Để làm vậy, ta cần biến ma trận thành danh sách các cạnh và nút, rồi định một ngưỡng để loại các tương quan yếu khỏi đồ thị.

# transform the data
links = cortag.stack().reset_index()
links.columns = ['var1', 'var2','value']

# threshold 
links_filtered = links.loc[(links['value'] > .6) & (links['var1'] != links['var2'])]
links_filtered

# create edges
G = nx.from_pandas_edgelist(links_filtered, 'var1', 'var2')

# draw network using Kamada & Kawai's algorithm 
plt.figure(3,figsize = (12,12))
nx.draw_kamada_kawai(G, with_labels = True, node_color = 'red', node_size = 400, edge_color = 'black', linewidths = 1, font_size = 14)

Nếu có quá nhiều cạnh và nút, bạn vẫn có thể đổi ngưỡng để được kết quả gọn hơn. Hoặc xuất đồ thị ra để nghịch trong Gephi, bằng hàm .write_gexf().

nx.write_gexf(G, 'graph.gexf')

Bạn có thể xem kết quả ở đầu bài viết này.

Cập nhật: Mạng lưới có trọng số dạng vòng

Tôi đang tìm cách hiển thị ma trận tương quan dưới dạng mạng lưới có trọng số thì gặp cách tiếp cận thú vị này , và tôi phỏng theo nó cho tập dữ liệu của chúng ta ở đây.

# create graph weighted by correlation coefficients (unfiltered)
Gx = nx.from_pandas_edgelist(links, 'var1', 'var2', edge_attr=['value'])

# determine a threshold to remove some edges
threshold = 0.4

# list to store edges to remove
remove = []

# loop through edges in Gx and find correlations which are below the threshold
for var1, var2 in Gx.edges():
 corr = Gx[var1][var2]['value']
 #add to remove node list if abs(corr) < threshold
 if abs(corr) < threshold:
 remove.append((var1, var2))

# remove edges contained in the remove list
Gx.remove_edges_from(remove)

print(str(len(remove)) + ' edges removed')

Sau khi bỏ bớt vài cạnh, ta có thể định màu sắc và độ dày cho chúng.

# determine the colors of edges
def assign_colour(correlation):
 if correlation <= 0.8:
 return '#ff872c' # orange
 else:
 return '#f11d28' # red


def assign_thickness(correlation, benchmark_thickness=3, scaling_factor=3):
 return benchmark_thickness * abs(correlation)**scaling_factor


def assign_node_size(degree, scaling_factor=50):
 return degree * scaling_factor

Ta cũng cho các nút một kích thước tỷ lệ với số kết nối của chúng.

# assign node size depending on number of connections (degree)
node_size = []
for key, value in dict(Gx.degree).items():
 node_size.append(assign_node_size(value))

Kết quả là một đồ thị có trọng số chấp nhận nhiều nút hơn và nhiều cạnh hơn hẳn, mà vẫn dễ đọc và giàu thông tin.

Thư từ mật của Filippo Cavriana, 1568—1589.

Fri, 27 Dec 2019 00:00:00 +0000

Những lá thư mật của Filippo Cavriana là một chứng từ có một không hai về các cuộc chiến tranh tôn giáo Pháp: trong hơn hai mươi năm, chúng ghi lại các mưu đồ, trận đánh, cuộc thương thuyết và âm mưu đã làm nên nhịp sống của triều đình Pháp và xa hơn nữa.

Những lá thư ấy, hiện lưu tại , phần lớn nằm rải rác trong hàng trăm bó hồ sơ chưa lập mục lục – ở Florence người ta gọi là filze. Mấy năm qua, tôi đã tìm ra hàng chục lá thư mới, nhưng kiểu nghiên cứu lưu trữ này ngày càng gian nan. Khoảng cách địa lý với Florence, sự xuống cấp của một số dịch vụ công ở Ý, rồi đại dịch Covid-19, tất cả góp phần biến những dự án công bố như thế thành một quá trình dài lâu và bấp bênh.

Dẫu khó khăn chồng chất, công bố nguồn sử liệu gốc vẫn phải là một phần công việc của nhà sử học. Song hình thức của những công bố ấy có lẽ nên thay đổi. Chúng không những phải thích ứng với tình cảnh vừa mô tả, mà còn phải phản ánh đúng hơn tính chất tích lũy dần dần của loại nghiên cứu này, đồng thời để ngỏ khả năng cho người khác tiếp nối.

Từ đó nảy ra ý tưởng phát triển một kiểu dự án xuất bản kỹ thuật số mới: có thể mở rộng, bền vững, đáng tin cậy, không lệ thuộc nền tảng, và có tiềm năng cộng tác.

Ấn bản nay đã lên mạng: . Ấn bản tập hợp những lá thư đã chuyển tự đến nay, từ Lưu trữ Quốc gia Florence, Mantova và BnF, và sẽ lớn dần khi có thư mới xuất hiện. Tôi đã giải thích lý do đằng sau cách thiết kế này trong .