КОРПУСНАЯ ЛИНГВИСТИКА Лекция пятая Корпус Традиционное представление Коллекция текстов, как можно более полная и самодостаточная : the corpus of Anglo-Saxon. - презентация

1

2 КОРПУСНАЯ ЛИНГВИСТИКА Лекция пятая

3 Корпус Традиционное представление Коллекция текстов, как можно более полная и самодостаточная : the corpus of Anglo-Saxon verse The Oxford Companion to the English Language Современное представление Коллекция текстов, созданных в естественной речевой среде и отобранных для того, чтобы охарактеризовать состояние или вариацию языка John Sinclair Corpus Concordance Collocation OUP

4 Корпус и архив Архив текстов Собрание текстов в их оригинальном формате (Oxford Text Archive: Корпус Тексты, отобранные и обработанные унифицированным, систематическим образом British National Corpus:

5

6 BTANT 129 w5

7 Отто Есперсен ( ) A Modern English Grammar on Historical Principles ( ) Тысячи примеров из произведений Чосера, Шекспира, Свифта, Остин и др., выписанных автором Недостатки такого подхода

8 7/26 Что такое корпус ? Corpus (pl. corpora) = тело Коллекция письменных текстов и транскрибированной устрой речи Обычно, но не обязательно, составляется с конкретной целью Обычно, но не обязательно, структурирован Обычно, но не обязательно, аннотирован ( Обычно хранится на компьютере и доступен с него )

9 8/26 Для определенной цели Образцы текстов отбираются для решения конкретной научной задачи Корпус может быть ориентирован на определенный жанр (corpus of newswire texts) или быть более широким Часто для корпуса важен аспект сбалансированности Демографические факторы ( возраст, пол, место проживания, социальное положение автора или говорящего ) Разнообразные стили и жанры

10 9/26 Структурирован В целом корпус делится на секции по определенным параметрам Баланс должен обеспечить представленность в корпусе разных жанров и демографических факторов

11 10/26 Параметры в BNC ( письменная часть )

12 11/26 Структура жанров в BNC ( письменная часть )

13 12/26 Параметры в BNC ( устная часть )

14 13/26 Параметры в BNC (устная часть)

15 14/26 Аннотирован Не просто текст Большинство корпусов имеет аннотацию POS Каждое слово снабжено информацией о его части речи (POS) Тэги ( ярлыки ) POS содержат также богатую морфологическую информацию Тэги по возможности снимаю грамматическую омонимию Некоторые корпусы содержат и иную информацию : Структурную, исходя из делимитации текстов Смысловую для различения грамматических омонимов

16 15/2 6

17 Создание корпуса : парсирование, присвоение токенов Предобработка Сегментирование текстов на предложения слова Сложносоставные слова – проблема Нормализация Восстановление клитиков, аббревиатур ("can't", "I've")

18 Создание корпуса : аннотирование (tagging) BTANT 129 w5 Аннотирование Придание каждому слову ярлыка с информацией о его части речи Проблема : соответствие нескольким частям речи вне контекста set N vs. set V

19 Создание корпуса : разрешение омонимии Disambiguation Определение корректного анализа в контексте Два подхода : Оба нуждаются в мануально корректируемом пробном корпусе ститистический Hidden Markov model Расчет вероятности обычно в охвате одного - двух слов Успешность может составлять до 98% Основанный на правилах

20 Синтаксическое аннотирование Сложно создаваемое в таком масштабе Сложности делимитации Treebank: коллекция ситаксически проанализированных предложений Penn treebank

21 Современные тенденции Word sense ambiguation (SENSEVAL) Message understanding ndex.html ndex.html SEMANTIC WEB Превращение информации в Интернете в понятную для компьютера

22 Какой сэмпл считать репрезентативным ? BTANT 129 w5 Корпус любого размера неизбежно является лишь иллюстрацией ( сэмплом ) Чего ? Два подхода Иллюстрация говорящих – demographic sampling Иллюстрация порождаемых ими текстов – text type sample

23 Понятие репрезентативности Сэмпл vs. население Сэмпл должен быть пропорционален населению относительно данной особенности Пример демографического сэмплинга Если мы знаем, что 48% населения Будапешта – мужчины, нам следует составлять корпус так, чтобы информация респондентов - мужчин составляла в нем 48% - Такой сэмплинг репрезентативен для города Будапешта с точки зрения гендерных особенностей

24 Проблемы репрезентативности Что должно быть единицей отбора для корпуса ? Стили, типы текстов, жанры etc. Не существует независимых данных об их квоте в речевых произведениях -> репрезентативность – идеал, который невозможно реализовать

25 Подходы к репрезентативности Douglas Biber (Regents' Professor, Applied Linguistics Program, at the English Department, Northern Arizona University) : Отвергает пропорциональный сэмплинг Сэмплы должны быть как можно разнообразнее Репрезентативность измеряется в терминах широкой вариантивности типов текстов, включенных в сэмплы

26 25/26 Что такое корпусная лингвистика ? Не раздел лингвистики, типа социо ~, психо ~, … Не теория лингвистики Набор инструментов и приемов для поддержки лингвистических исследований по всем аспектам интересующего явления

27 26/26 Доказательство в лингвистике Реально зафиксированное использование как доказательство в лингвистике Отличается от прежде распространенной интроспекции Связано с различением competence~performance (langue~parole) Корпусная лингвистика чаще более заинтересована в установлении тенденций, чем правил ( возможности более, чем уверенности ) Информация корпусов иногда противоречит распространенным представлениям о языковых фактах.

28 27/26 Для чего нужна корпусная лингвистика ? 1. Исследование грамматических явлений ( различий между модальными глаголами, отрицания, приложений, инфинитивных оборотов и пр.) – не нужны большие корпуса 2. Создание грамматических справочников : первые грамматики на основе корпусов Quirk et al. A Grammar of Contemporary English (1972), A Comprehensive Grammar of the English Language (1985) (Lonodn Corpus); Oxford English Grammar (1996) – ICE-GB, Longman Grammar of Spoken and Written English (1999) – Longman Corpus

29 BTANT 129 w5 3. Лексикография : проблема частотности, большие корпуса, COBUILD, Bank of English Corpus ( использован для BBC English Dictionary), British National Corpus ( для Longman Dictionary of Contemporary English), Cambrigde Int. Corpus ( для Cambridge Int. Dictionary of English) Проблема создания словарей без корпуса : Oxford English Dictionary, создавался 50 лет, основная работа вручную, множество стадий, 5 млн. цитат Возможность нахождения новых значений (risk в работе Ч. Филлмора, 1992 г.) Для чего нужна корпусная лингвистика ?

30 BTANT 129 w5 4. Исследование языковой вариативности : социолингвистические работы, гендерная проблематика ( термин lovely у Aston/Burnard 1998) 5. Историческая лингвистика : Helsinki Corpus древне - и среднеанглийских текстов с 8 по 17 вв. (1,5 млн. слов ), разбиты по эпохам, содержат диалектную и гендерную информации (header!); корпус ARCHER (1,7 млн. слов, тексты , американский и британский варианты, различные жанры ), корпуса отдельных произведений ( Беовульф ), авторов ( Чосер ), ранних английских писем и трактатов и т. п.

31 Для чего нужна корпусная лингвистика ? BTANT 129 w5 6. Контрастивная лингвистика и теория перевода : параллельные корпуса, English- Norwegian Parallel Corpus ( тексты беллетристики на английском и новержском языках и их переводы, слов каждый ). Возможности : изучение жанровых особенностей в двух языках, типичных переводов и ошибок

32 Для чего нужна корпусная лингвистика ? 7. Исследование детской речи : CHILDES ( для изучения усвоения родного и иностранного языков, транскрибированная речь детей и взрослых, 20 национальностей, речь детей с нормальным развитием и с афазией или аутизмом ); Learner Corpora: ICLE (int. Corpus of Learner English) (2 млн. слов, эссе по 500 слов, написанные изучающими английский язык представителями 14 наций ), the Longman Learner Corpus, The Hong Kong University of Science and Technology Learner Corpus

33 Для чего нужна корпусная лингвистика ? 8. Лингводидактика : Longman Essential Activator (1997)

34 История корпусной лингвистики е гг.: Р. Бус, корпус текстов Фомы Аквинского (10000 предложений на карточках + составленный вручную индекс, перенесены затем на перфокарты ), в гг. корпус насчитывал слов, дополнительный корпус – слов текстов на русском, немецком и арамейском языках е гг.: корпус машинных текстов А. Джилланда, слов, сопоставительные исследования – частотность употребления словоформ во французском, румынском, испанском и китайском языках

35 Начало корпусной лингвистики BTANT 129 w г. – Н. Фрэнсис и Г. Кучера (W.N. Francis and H. Kučera, Brown University, Providence, RI) начинают работу над Брауновским корпусом английского языка – первым лингвистическим электронным корпусом текстов. Brown Corpus (Brown university) 1 млн слов 15 жанров 500 сэмплов по 2000 слов каждый ареал : США Время : 1961 г.

36 История корпусной лингвистики Возникновение центров корпусной лингвистики в Лондоне, Ланкастере, Бергене, Гетеборге, Осло, Берлине, Лейпциге, Потсдаме и Вюрцбурге LOB Corpus (Lancaster-Bergen-Oslo) Создан сходно с Брауновским корпусом на материале британского варианта английского языка Тексты 1961 года 1 млн. слов, 15 жанров Каждый текст содержит максимально 2000 слов Kolhapur corpus of Indian English создан в 1978 г. на тех же основаниях

37 36/26 The London-Lund Corpus of Spoken English (LLC) Первый корпус транскрибированной устной речи Часть исследований устной англоязычной речи в Lund University под руководством of J. Svartvik 500,000 слов устного британского варианта английского языка, записанного с 1953 по 1987 гг. Спонтанные беседы, спонтанные и подготовленные речи

38 1980- е годы BTANT 129 w5 Машинный фонд русского языка Уппсальский корпус русского языка ( Швеция ), 1 млн. слов COBUILD The Bank of English, Birmingham, 20 млн. слов

39 38/26 COBUILD 1 млн. слов 1980: издательство Collins создает корпус обхемом 20 млн. слов для поддержки лексикографов, работающих над новым «Collins Birmingham University International Learners Dictionary» (John Sinclair)

40 Cobuild Большой исследовательский проект издательства «Collins» и Бирмингемского университета 1991 г., 20 млн. слов Вошел в состав Bank of English, в настоящее время около 450 млн слов

41 Bank of English Bank of English – это название корпуса COBUILD, собрание английских текстов. Корпус был основан издательством Collins и University of Birmingham в 1991 году Корпус содержит тексты из тысяч разных источников. В основном это тексты из Великобритании, но также там есть и тексты из Америки и Австралии. Письменные тексты взяты из газет, журналов, художественной и не художественной литературы, брошюр, докладов и Интернет сайтов. Устная речь взята из радио передач, встреч, интервью, обсуждений и разговоров. В корпусе сейчас содержится 524 миллионов слов, корпус постоянно пополняется. В корпусе можно искать примеры сочетаемости слов, проверять частотность слов, увидеть все примеры использования определенного слова и анализировать эти результаты, так что эта информация может быть использована при создании словарей, а так же может служить подкреплением в других работах. Корпус использовали при создании словаря Collins COUBUILD Advanced Learners English Dictionary. Копии корпуса содержатся как в издательстве HarperCollins так и в University of Birmingham, версия в университете доступна для проведения исследований. Bank of English является частью Collins World Web так же как и корпусы французского, немецкого и испанского языков.

42 Bank of English Демонстрационная версия корпуса находится по адресу, можно задавать разные параметры для поиска ( это прописано в инструкции ): выдает 40 строчек примеров, каждая длинной в 250 символов, строчки располагаются в произвольно последовательности, в примерах сочетаемости слов выдает 100 примеров Для того чтобы получить доступ к полной версии корпуса, необходимо написать е -mail для получения формы Стоимость : Существуют разные уровни пользования корпусом : One language GBP 50 for a one month trial (not renewable) GBP 300 for 6 months GBP 500 for 12 months Each subsequent language: GBP 45 per language for a one month trial (not renewable) GBP 270 per language for 6 months GBP 450 per language for 12 months Вам будет предоставлен пользовательский ID для входу в корпус. Могут ли несколько людей использовать корпус по подписке ? Да, но кроме trial subscriptions. Предоставляются 3 user IDs изначально, но если вы подписываетесь на корпус на 12 месяцев, вам будут предоставлены 10 id Необходимо также будет назначить человека, который будет контактировать с администрацией корпуса и будет ответственным за то, что данные id используют только конкретные люди в вашей группе.

43 1990- е гг. BTANT 129 w5 « Британский национальный корпус » (100 млн. слов ) Национальные корпуса венгерского, итальянского, хорватского, чешского, японского языков, 100 млн. слов. The Bank of English, 600 млн. слов

44 1990- е гг. : British National Corpus Одноязычный синхронный – вторая половина 20 века 4054 текстов, 100 млн. слов Письменные тексты – 90%, устные ( неформальная коммуникация ) – 10% 10 % материала – устная речь Тексты по слов каждый Кодировка TEI compliant SGML /

45 44/26 BNC (1995) млн. слов, собрание письменных и устных текстов периода гг. Тщательно отобраны и сбалансированы Корпус закрытый ( синхронический ) Все тексты имеют высококачественное аннотирование Множество исследовательских инструментов Отличный интерфейс пользователя, см.

46 BTANT 129 w5

47 Создание BNC 1991 – : публикация BNC World Проект осуществляется BNC ConsortiumBNC Consortium Поиск онлайн : Поиск онлайн Марка Дэвиса SARA

48 Новые версии BNC XML ( В работе ) XAIRA ( новая система поиска информации ) Больше возможностей поиска Улучшенный интерфейс пользователя Бесплатное ПО

49 48/26 Пример использования корпуса 1: swearing Women and men swear (and use taboo words) differently Data (from BNC spoken part) shows Women and men use different swear words They use them for different effect (men use them to disparage, women use them to intensify) Their use changes depending on the sex of the listener(s): women swear more in single-sex groups; men dont swear more in mixed-sex than amongst themselves

50 49/26 Пример 2: Near synonyms Subtle differences in the meaning of near synonyms can be distinguished by looking at the words they collocate with You shall know a word by the company it keeps (Firth)

51 50/26 frail vs fragile

52 51/26 Пример 3: Near synonyms In addition, near synonyms can be shown to be favoured depending on genre, eg big vs large Categorybiglarge Spoken conversation Other spoken material Newspapers Fiction and verse Other published written material Unpublished written material Non-academic prose and biography Academic prose Frequency per million words

53 Подкорпусы BNC Sampler 1 млн. письменных и 1 млн. устных слов BNC Baby По 1 млн. слов из каждого из 4 жанров : беллетристики, газет, академических трудов и устной речи доступность : на CD

54 2000- е гг. BTANT 129 w5 American National Corpus, 100 млн. слов Gigaword corpora ( слов ) английского, арабского, китайского языков

55 American National Corpus В данном корпусе представлен американский вариант английского языка. Он также включает тексты всех жанров и записи разговоров с 1990 года. Ожидается, что данный корпус будет включать по меньшей мере 100 миллионов слов. Жанры текстов будут включать и « новые » типы (web- блоги, web- страницы, а также тексты из рэп стиля ). Осенью 2003 года ANC выпустил первое издание ( более 11 миллионов слов американского английского ). Все данные ANC предоставляются Лингвистическим Консорциумом за 75 долларов. Вторая версия : (

56 Примеры корпусов английского языка BTANT 129 w5

57 Collins WordbanksOnline Corpus Подкорпус корпуса Bank of English 56 млн. слов Поисковая машина в интернете

58 Talk Bank Corpus Основная цель данного корпуса – помочь исследованиям в области человеческого общения и общения между животными. Talkbank – это междисциплинарный исследовательский проект. Чтобы воспользоваться корпусом, необходимо заполнить форму и предоставить свой адрес, номер телефона, . Корпус включает Childes - овладение языком детьми (child language acquisition), Lides – билингвизм и кодовая коммутация (bilingualism and code-switching), Gesture – язык телодвижений, AphasiaBank, Linguistic Exploration,Text and Discourse, включая Conversation Analysis, Classroom Discourse, Animal Communication. Большинство файлов содержатся в формате zip. Есть digital video и digital audio. Audio files – в формате mp3.

59 Bergen Corpus of London Teenage English (COLT) Этот корпус посвящен изучению речи подростков. Корпус был разработан в 1993 году на базе разговорного языка детей в возрасте от 13 до 17 лет из разных пригородов Лондона. Он является составной частью British National Corpus. Включает в себя полмиллиона слов. Этот корпус не доступен в Интернете ( С 22 апреля 1996 года требуется определенный пароль, чтобы зайти на сам корпус ). С декабря 1996 года вышел диск с этой программой. В поисковике можно увидеть распределение слов в зависимости от возраста, пола, социального статуса, места жительства и т. д. Информация для корпуса собиралась в Лондоне исследовательской командой из Бергенского Университета. Включает полмиллиона слов из спонтанных разговоров между подростками в возрасте от лет ( девочки + мальчики ). С гг. эти речи были транскрибированы, обращая внимание на паузы и на одновременные высказывания. Этим занималась Лонгмановская группа. Маркировкой / классификацией слов занималась группа из Lancaster University.

60 COLT Затем вышла другая версия Кольта (CD) с использованием звуковых файлов. Было выбрано ограниченное количество текстов, и они проклассифицированы по трем параметрам : возраст, пол и социальное положение. На базе данного корпуса уже написано большое количество работ, например : - Прагматические показатели в подростковой речи и речи взрослых (G. Anderson) - Новые тенденции в речи подростков. More trends in teenage talk. A corpus-based investigation of the discourse items cos and innit, by G. Andersen and A-B Stenström They like wanna see how we talk and all that.The use of like as a discourse marker in London teenage speech, by G. Andersen Girls' conflict talk: a sociolinguistic investigation of the variation in the verbal disputes of adolescent females, by A-B Stenström and I.K. Hasund They gave us these yeah, and they like wanna see how we talk and all that The use of like and other discourse markers in London teenage speech, by G.Andersen

61 COLT Размер : слов, 100 аудиокассет, 50 часов записей устных бесед Респонденты : 31 мальчик и девочка в возрасте лет, Районы Лондона : Barnet, Brent, Camden, Enfield, Hackney, Hertfordshire, Islington, Richmond, Tower Hamlets, Westminster Школьные округа : Hackney, Tower Hamlets, Camden, Barnet, Haileybury

62 Cambridge International Corpus CIC находится на сайте Cambridge University Press – English Language Teaching. Этот корпус создавался в течении последних 10 лет прежде всего как база для составления учебных материалов и словарей английского языка. В одном из разделов корпусаCorpus-based publications указаны издания, основанные на корпусе и систематизированные по уровням сложности и тематикам. CIC содержит около 1 млрд. словоупотреблений и постоянно пополняется. Материалы основываются на современной речи, в оновном - устной.

63 CIC включает в себя следующие ресурсы : Cambridge and Nottingham Corpus of Discourse in English (CANCODE), 18 million words Уникальное собрание разговорного английского, записанного в сотне разных местностей на Британских островах в различных ситуациях ( в ресторане, в магазине ). Это только спонтанная речь. Cambridge and Nottingham Spoken Business English (CANBEC), 1 million words Собрание разговорного бизнес - английского, записанного в коммерческих компаниях разной величины. Формальные и неформальные встречи, презентации, телефонные разговоры, разговоры за обедом. Этот ресурс позволяет оценить, как современные люди используют английский язык в рабочей атмосфере, что способствует более продуктивному изучению и преподаванию бизнес - английского. Cambridge Cornell Corpus of Spoken North American English, 0,5 million words Записан в различных ситуациях ежедневной жизни. Cambridge Corpus of Business English, 60 million words Включает в себя деловые документы, отчеты, книге о бизнесе и бизнес - рубрики газет. Представлены материалы на британском и американском вариантах английского языка.

64 CIC Cambridge Corpus of Legal English, 20 million words Собрание книг, журнальных и газетных статей, имеющих отношение к закону и юридическим процессам. Включает материалы на британском и американском вариантах английского языка. Cambridge Corpus of Financial English, 55 million words Собрание книг, журнальных и газетных статей, имеющих отношение к экономике и финансам. Включает материалы на британском и американском вариантах английского языка. Cambridge Corpus of Academic English, 25 million words Собрание текстов из научных книг и журналов на британском и американском вариантах английского языка. Также в корпус входят письменные тексты на британском (650 млн. слов ) и американском (250 млн. слов ) вариантах английского языка.

65 Cambridge Learner Corpus Этот подкорпус CIC образуют тексты экзаменационных работ студентов из разных стран (180), изучающих английский язык в качестве иностранного ( около студентов и скриптов ). Включает в себя около 25 млн. слов. Этот корпус активно используется при составлении учебников, т. к. дает возможность отслеживать наиболее частое употребление каких - либо конструкций и отслеживать ошибки. Корпус включает в себя специальную программу Learner Error Coding System, которая позволяет найти примеры на часто повторяющиеся ошибки. На настоящий момент к корпусам имеют доступ только авторы, работающие над книгами для издательства Cambridge University Press.

66 Corpus of middle English Prose and Verse ( и ). Это собрание текстов Среднеанглийского языка, составленное из работ, внесенных Университетом Мичиган и текстов, обеспеченных Оксфордским Архивом Текста, а так же из работ, созданных специально для Корпуса HTI (Humanities Text Initiative). Последнее обновление Корпуса было сделано в феврале 2006 г. Все тексты представляют собой текст в формате SGML, файлы, маркированные согласно нормам TEI и преобразованные в формат TEI Lite DDT для широкого использования. По инициативе факультета Гуманитарных наук, предполагается развить Корпус Прозы и Стиха Среднеанглийского языка в обширное и надежное собрание электронных текстов Среднеанглийского языка, либо преобразовывая тексты самостоятельно, либо договариваясь о доступе с другими собраниям. В настоящее время доступны пятьдесят четыре текста ; несколько других будут добавлены позже.

67 На сайте работают несколько видов поиска : Простой поиск - поисковик ищет одно слово или фразу во всем списке Точный поиск ( поиск близких по значению слов или нечто подобное ) - ищет сочетаемость 2-3 слов в 1 фразе Логический поиск - ищет комбинации двух - трех слов в данном абзаце / строфе Поиск по цитате - определяет работы по автору и заглавию Обзор списка Все о Списке Прозы и Стихов на среднеанглийском языке

68 Corpus of middle English Prose and Verse BTANT 129 w5 Если открыть сам корпус, можно найти в нем 146 текстов, датируемых с середины 19 го до начала 20 го века. Например : Bible. A fourteenth century English Biblical version, ed. Anna C. Paues (Cambridge, 1904)A fourteenth century English Biblical version, Prose life of Alexander, ed. J.S. Westlake, EETS OS 143 (1913 for 1911). Prose life of Alexander, The right plesaunt and goodly historie of the foure sonnes of Aymon. Englisht from the French by William Caxton, and printed by him about 1489, ed. O. Richardson, EETS ES 45 (1884). The right plesaunt and goodly historie of the foure sonnes of Aymon. Englisht from the French by William Caxton, and printed by him about 1489, Legends of the holy rood; symbols of the passion and cross poems, ed. R.Morris, EETS OS 46 (1871). Legends of the holy rood; symbols of the passion and cross poems, The early South-English legendary ; or lives of saints. I. Ms. Laud, 108, in the Bodleian library, ed. C. Horstmann, EETS OS 87 (1887). The early South-English legendary ; or lives of saints. I. Ms. Laud, 108, in the Bodleian library, Paston family Paston letters and papers of the fifteenth century. Part I only, ed. N. Davis (Oxford, 1971) Paston letters and papers of the fifteenth century. Part I only,

69 Corpus of middle English Prose and Verse Таким образом, тексты разделены на анонимные и на те, авторы которых нам известны. Если открыть саму ссылку на текст, на странице в виде таблицы представлены : Автор Название информация о публикации доступность ( ссылки в интернете ) источник URL Далее идет содержание, каждую часть которого так же можно открыть ( в ней будет уже сам текст ).

70 MICASE Каковы характеристики современной ученой речи, ее вокабуляр, функции, цели, влияние ? Различаются ли они в зависимости от дисциплин и целевой аудитории ? В конце 90- х годов (1997) Институт английского языка ( ИАЯ ) на базе Мичиганского университета начал работу над проектом, который должен был найти ответы на эти и многие другие вопросы. Целью первого этапа эксперимента было записать и затранскрибировать приблизительно 200 часов лекций ( около 1,8 млн слов ) по всему университету. В июне 2001 г. была закончена запись лекций, семинаров, заседаний ученого совета и т. д. Всего получилось 190 часов записей. В апреле 2002 г. было закончено транскрибирование и проверка всех транскрипций. ( Цифровые записи транскрибировались с помощью программы, которая называется SoundScriber, разработанной одним из бывших помощников – Эриком Бреком /Eric Breck). Для создания данного корпуса текста было несколько причин. Во - первых, ранее не существовало ни одной подобной базы данных. Во - вторых, создатели надеялись отследить изменения, происходящие в языке, т. к. люди получают подобного рода опыт в университетах. В - третьих, разработчики сайта подозревали, что « живая речь », даже образованных людей, сильно отличается от той, что написана в грамматиках. Они уверены, что существенные отличия неизбежны, т. к. та речь, которая представлена в грамматиках больше имеет дело с речью письменной, а не устной. В - четвертых, с новой полученной информацией создатели надеются исследовать и усовершенствовать как ИАЯ, так и English for Academic Purpose ( английский в научных целях ). Также они планируют разработать улучшенные методы обучения.

71 MICASE BTANT 129 w5 Первоначально MICASE планировался как открытый, не ограниченный в доступе сайт. Данный проект заинтересовал многих ученых в Европе, Азии и Северной Америке. MICASE также пригласили на ICAME/AAACL конференцию в мае 2005 г. Первоначально руководителями проекта были доктор Рита Симпсон вместе с профессором Джоном Свайлзом и доктором Сарой Бригс. Сейчас проектом руководит доктор Уте Рёмер. В общей сложности больше 30 исследователей работали над проектом в течение этих лет.

72 Структура сайта : Вы попадаете на страничку, на которой видите строку поиска, в которую вписываете нужное слово. В соседних столбцах выбираете « особенности говорящего » и « Особенности транскрипции ». Первый раздел состоит из таких подпунктов как : Пол говорящего ( любой, женский, мужской, неизвестный ); Возраст говорящего ( любой, неизвестный, 17-23, 24-30, 21-49, 50- и выше ); Образование ( любое, студент предпоследнего курса, исследователь, научный работник, посетитель и т. д.); Статус носителя языка ( не носитель, почти носитель, носитель Американского английского, носитель другого английского, неизвестно ); Родной язык ( любой, арабский, армянский, …).

73 MICASE Второй раздел включает : Тип мероприятия, на котором получена запись ( любой, коллоквиум, защита диссертации, лекция и т. д.); Распределение по областям ( любое, биология, искусство и т. д.); Дисциплину ( любая, американская культура, антропология, архитектура и т. д.); Уровень участников ( любой, студент предпоследнего курса, исследователь, научный работник, посетитель и т. д.); Интерактивность ( любая, преимущественно монологическая, смешанная и т. д.). В зависимости от того, что Вам необходимо найти, Вы заполняете строку поиска, отмечаете особенности и нажимаете на поиск (Submit Search). В зависимости от Вашего запроса Вы получаете список требующегося слова в различных контекстах. При чем Вы можете просмотреть контекст как в размерах одного предложения, так и в размерах целой лекции. Также Вы можете просмотреть статистику, которая покажет, насколько часто это слово встречается на единиц, соотнесет частоту потребления этого слова мужчинами и женщинами и т. д.

74 THE LAMPETER CORPUS OF EARLY MODERN ENGLISH TRACTS The Lampeter Corpus of Early Modern English Tracts представляет собой собрание текстов, опубликованных в период между 1640 и 1740 годами – время, отмеченное в Англии ростом массового издания, развитием публичного дискурса во многих областях повседневной жизни, и, наконец, стандартизацией британского английского. Корпус отражает век, который был ключевым в процессе становления британского английского, каким мы знаем его сейчас. The Lampeter project был предпринят в 1991 г. профессором Dr. Josef Schmied и Eva Hertel в Bayreuth University, а в 1993 г. переехал в Chemnitz. В начале проект спонсировался the Deutsche Forschungsgemeinschaft (DFG), а с 1994 г. спонсируется the German Research Association.

75 THE LAMPETER CORPUS OF EARLY MODERN ENGLISH TRACTS Для того, чтобы ответить на нужды лингвистов и историков, the Lampeter project представляет собой сбалансированный корпус, который характеризуется определенным набором критериев : только полные тексты, включая предисловие, послесловие и т. д.; тексты разной длины ( от 3000 до слов ). Каждый автор появляется только раз ; только первое издание текста, поздние издания появляются лишь в том случае, если исправления сделаны самим автором. Никаких современных изданий ; разделение века на десятилетия ;

76 THE LAMPETER CORPUS OF EARLY MODERN ENGLISH TRACTS каждое десятилетие включает тексты на темы : религия ; политика ; экономика ; наука ; право ; разное ; по два текста на каждую тему и на каждое десятилетие, что вследствие ведет к 120 текстам и к 1,1 млн. слов. Корпус интересный, так как отражает действительно важный век в истории Англии, в стандартизации британского английского, что важно для специалистов, изучающих английский язык, его историю.

77 THE LAMPETER CORPUS OF EARLY MODERN ENGLISH TRACTS К сожалению, корпус еще не готов до конца. Обещают, что впоследствии корпусом можно будет пользоваться с разных сайтов : - Oxford Text Archive ( - International Computer Archive of Modern and Medieval English (ICAME) ( HOME.HTM); HOME.HTM - и с самого сайта корпуса - MPHOME.HTM MPHOME.HTM

78 International Corpus of English 20 корпусов по 1 млн слов, посвященных вариантам английского языка во всем мире 500 текстов (300 письменных, 200 устных ) по 2000 слов каждый охватывает : гг. ICE-GB доступен в демоверсии Синтаксическая аннотация, графический инструмент ICECUP

79 BTANT 129 w5

80 Корпуса немецкого языка 1. Die Korpora geschriebener Gegenwartssprache des IDS bilden mit über 2.2 Milliarden Wörtern die weltweit größte linguistisch motivierte Sammlung elektronischer Korpora mit geschriebenen deutschsprachigen Texten aus der Gegenwart und der neueren Vergangenheit. enthalten belletristische, wissenschaftliche und populärwissenschaftliche Texte, eine große Zahl von Zeitungstexten sowie eine breite Palette weiterer Textarten und werden kontinuierlich weiterentwickelt. werden im Hinblick auf Umfang, Variabilität, Qualität und Aktualität akquiriert und erlauben in der Nutzungsphase über COSMAS die Komposition virtueller Korpora, die repräsentativ oder auf spezielle Aufgabenstellungen zugeschnitten sind. enthalten ausschließlich urheberrechtlich abgesichertes Material.

81 Корпуса ИДС Маннгейм Bonner Zeitungskorpus (bzk) Erarbeitung: IDS-Mitarbeiter in Bonn Umfang: Texte; ca. 3,1 Mill. laufende Wortformen Zeitraum: Jahrgangsquerschnitte 1949, 1954, 1959, 1964, 1969 und 1974 Inhalt: Artikel aus den Tageszeitungen: - Neues Deutschland (DDR) - Die Welt (Bundesrepublik Deutschland)

82 Корпуса ИДС Маннгейм Mannheimer Korpus 1 (mk1) Erarbeitung: IDS Umfang: 293 Texte; ca. 2,2 Mill. laufende Wortformen Zeitraum: Inhalt: - Belletristik Heinrich Böll: Ansichten eines Clowns Werner Bergengruen: Das Tempelchen Max Frisch: Homo faber Günter Grass: Die Blechtrommel Uwe Johnson: Das dritte Buch über Achim Thomas Mann: Die Betrogene Erwin Strittmatter: Ole Bienkopp - Memoiren Theodor Heuss: Erinnerungen wissenschaftliche und populärwissenschaftliche Literatur - Trivialliteratur - Artikel aus Zeitungen und Zeitschriften

83 Корпуса ИДС Маннгейм Mannheimer Korpus 2 (mk2) Erarbeitung: IDS Umfang: 52 Texte; ca. 0,3 Mill. laufende Wortformen Zeitraum: 1949, 1952, Inhalt: - Erlasse, Satzungen, Beschlüsse - Gebrauchsanweisungen, Lehrbücher - Nachrichten, Prospekte, Trivialliteratur - wissenschaftliche und populärwissenschaftliche Literatur - Artikel aus Zeitungen und Zeitschriften

84 Корпус LIMAS Содержание корпуса : Корпус содержит 500 источников и более миллиона слов. Здесь собраны как полные сочинения, так и отрывки из произведений различных жанров, изданных в 1970 году. Все сочинения разбиты рубрики, которые в свою очередь имеют подрубрики. Здесь Вы найдёте следующие рубрики : беллетристика, общество ( например, такие подрубрики как работа, гороскоп, секс и др.), право, медицина ( для специалистов и популярная ), география, метеорология, религия, техника, страна, спорт и так далее. Весь перечень произведений, содержащихся в корпусе, можно посмотреть в разделе на сайте «Inhaltsverzeichnis». Каждое произведение имеет порядковый номер, она приписано к какой - либо рубрике и подрубрике. Здесь даётся полное название, год издания, издательство и номера страниц, которые использует корпус. Все используемые в корпусе произведения доступны для чтения.

85 Корпус LIMAS В данном корпусе доступны три вида поиска : простой, по контексту и поиск фраз. Простой поиск позволяет найти одно или несколько заданных слов. Поиск по контексту позволит Вам искать слово в корпусе в зависимости от того, какие слова и формы окружают его. Поиск фраз позволит искать в корпусе целые фразы и выражения. Более точной информации о времени и условиях создания данного корпуса на сайте не дано, что является, по моему мнению, минусом. Также в настоящий момент, по всей видимости, над корпусом не работают, не развивают, не улучшают. В работе корпус удобен, прост. Его можно посоветовать тем, кто изучает немецкий язык 70- х годов 20 века.

86 Цифровой словарь /digitales Wörterbuch (das digitale Wörterbuch der deutschen Sprache des 20. Jh.) Руководство : Manfred Bierwisch, Wolfgang Klein ( осн. руководитель проекта ), Hartmut Schmidt, Angelika Storrer. Цель проекта – разработка цифровой словарной системы на основе электронных корпусов. Язык – немецкий. Объект исследования – лексический состав немецкого языка 20- го века Проект находится в разработке с марта 2000 года. Предполагалось, что словарь будет состоять из нескольких корпусов : Основного корпуса (Kernkorpus) – документов и дополнительного корпуса (Ergänzungskorpus) – 2,5 млн. документов. В настоящий момент проект включает в себя несколько Интернет - корпусов. Корпуса находятся в открытом доступе, однако регистрация пользователя – обязательна ( процесс регистрации занимает не более 1 минуты, но ключ доступа присылается не сразу, мне пришлось ждать 3 часа ).

87 Структура этого корпуса Общие корпуса : DWDS-Kern с orpus Объем – 100 млн. слов в документах. В корпусе используются различные типы текстов письменной речи : Художественная литература 26 %, Публицистика 27 %, Научная литература 22 %, Справочная литература 20 %, а также 5 % затранскрибированных текстов устной речи. Juilland-D – Corpus Объем – слов в 392 документах. Используются тексты 1920 – х гг. Типы текстов : Драмы (6 произведений ) 20% Новеллы и рассказы (39 произведений ) 20% Эссе (23 произведения ) 20% Публицистика (286 статей ) 20 % Научная литература (38 произведений ) 20 %

88 Структура этого корпуса Специальные корпуса : Корпус разговорной речи (Corpus Gesprochene Sprache) Объем – 2,5 млн. слов. Состоит из нескольких подкорпусов : Речь ( слов ) – собрание речей Кайзера Вильгельма, Гитлера, Ульбрихта, Хонекера и др. Радиопередачи гг. ( слов ) Отрывки австрийских парламентских протоколов гг. и др. ГДР – корпус (DDR-Corpus) Объем – 9 млн. слов в 1150 текстах. Корпус охватывает тексты гг., опубликованные в ГДР. Корпус создавался в сотрудничестве с Гумбольдтовским университетом. Корпус еврейской периодики (Corpus Jüdischer Periodika) Объем – страниц – слов. Текстовая база – 8 полных журналов 1887 – 1938 гг. Корпус был создан при совместной работе с проектом Compactmemory. Также предлагаются 4 корпуса газетной периодики : Zeit-Corpus ( охватывает издания гг. и 22 издания гг. ), Corpus Berliner Zeitung ( все online- статьи гг ), Tagesspiegel-Corpus ( статьи гг.), Corpus der Potsdamer Neuesten Nachrichten ( статьи гг.) DWDS-Ergänzungscoprus охватывает 1 млрд. актуальных слов ( гг.), в качестве текстовой базы используется в основном современная периодика. Однако доступ через Интернет к данному ресурсу, к сожалению закрыт.

89 Как пользоваться Кроме всего прочего о слове дается основная информация ( грамматическая, лексическая и др.) из словаря современного немецкого языка, автоматически рассчитанные семантические связи ( синонимы, гипонимы и гиперонимы ) и автоматически рассчитанные коллокации слова ( наиболее частые словосочетания ). Существует возможность задавать при поиске дополнительные ограничения по дате, заглавию, автору и типу текста (Aktenreiter Filter). Все текстовые примеры сортируются по дате или длине предложения (Aktenreiter Darstellung), можно также просмотреть частотность использования слова в различных типах текстов в течение 20 века (Aktenreiter Wortverlauf) и скачать любой документ, содержащий искомое слово, в виде текстового файла (Aktienreiter Export). Корпус насчитывает более зарегистрированных пользователей ( на февраль 2007 г.), ежедневно пополняется новыми текстами, находится в свободном доступе, очень прост и удобен в использовании.

90 ФРАНЦУЗСКИЕ КОРПУСА

91 PERTOMed Русско - французский биомедицинский параллельный корпус База : корпус французского языка объем : слов цель : автоматизация перевода руководители : Marie - Christine Jaulent, Jean Charlet Французско - славянские параллельные корпуса

92 Французские корпуса ARTFL Project GlossaNet EUR – ACCOR OPUS

93 ARTFL - Project Прорект америко - французских исследований сокровищницы французского языка - Project for American and French Research on the Treasury of the French Language (ARTFL) Участники Analyse et Traitement Informatique de la Langue Française (ATILF) the Centre National de la Recherche Scientifique (CNRS) the Division of the Humanities the Division of the Social Sciences Electronic Text Services (ETS) of the University of Chicago Французские корпуса

94 ARTFL - Project Тестовая база : FRANTEXT ( ранее : Trésor de la langue francaise) млн. слов исторический период : от средневековья до 20 века Типы текстов : от классиков французской литературы до нелитературной прозы – новеллы, тексты стихотворений, драмы, журналистика, эссе, переписка, трактаты Французские корпуса

95 ARTFL Project Многоязычные тексты Библии База данных PhiloLogic: Множество опций : например, списки частотных слов, контекстный поиск... Французско - славянские параллельные корпуса

96 GlossaNet Разработан лингвистами для лингвистов GlossaNet использует ПО UNITEX, чтобы обращаться к электронным словарям и составлять конкордансы ( наборы контекстов для заданного слова ) Можно делать запросы : морфологический, синтаксический, семантический Источник : более 100 актуальных онлайн - изданий на 12 языках, электронные словари в системе RELEX Французские корпуса

97 EUR – ACCOR Заказчик : ЕС Испольнитель : University of Edinburgh – Center for Speech Technology Research 1990 – 1993 Корпуса на : немецком, английском, шведском, французском, каталанском, итальянском, гаэльском, американско - английском, русском языках Нужно купить лицензию для пользования Французские корпуса

98 OPUS Разработка : университет Осло Собрание бесплатных параллельных корпусов кодировка : XML и Unicode UTF8 Автоматическое аннотирование Желательны взносы за пользование Французские корпуса

99 OPUS Корпуса EuConst – Евроконституция на 21 языках OpenOffice – справочник на 6 языках Europarl – протоколы Европарламента на 11 языках KDE – справочник на 61 языке PHP – справочник на 21 языке Французские корпуса

100 Французско - славянские онлайн словари Lexicool Мультитран

101 « База средневекового французского " (BFM) и ее интеграция в корпус " Тезауруса французского языка " " База средневекового французского " (BFM) представляет собой корпус текстов французских литературных и деловых произведений IX - XVI вв., основанный на их современных критических изданиях. В настоящее время BFM включает около 50 текстов общим объемом приблизительно слов. К сожалению, доступ исследователей к данным BFM пока ограничен по соображениям защиты авторских прав на критические издания. Работа над созданием Базы началась в 1989 г. под руководством профессора Высшей нормальной школы Франции К. Маркелло - Низья. Состав коллектива исследователей и название лаборатории, в которой осуществлялся проект, с тех пор неоднократно изменялся. В настоящее время над проектом работает небольшая группа сотрудников лаборатории ICAR, входящей в состав Национального центра научных исследований Франции (CNRS). Электронные версии основной массы текстов были получены путем сканирования современных изданий с последующим многократным вычитыванием. При этом использовался формат. На основе текстовых документов с помощью программы были созданы конкордансы. В нескольких текстах с использованием программы была произведена морфологическая разметка ( идентификация значений морфологических категорий ).

102 « База средневекового французского " (BFM) и ее интеграция в корпус " Тезауруса французского языка " На материале BFM были получены интересные научные результаты, касающиеся грамматикализации модальных слов (voir, espoir), квантификаторов (très, beaucoup), вспомогательных и модальных глаголов, а также эволюции дейктической системы, выражения отрицания и порядка слов ( работы К. Маркелло - Низья, Б. Комбетта и С. Прево и др.). В то же время ряд лингвистических исследований требует привлечения материала более широкого, чем тот, который представлен в рамках BFM. В этой связи в 2002 г. К. Маркелло - Низья предложила проект интеграции BFM в корпус FRANTEXT, создававшийся на протяжении нескольких десятилетий работы над " Тезаурусом французского языка " (TLF). Этот корпус включает более 3500 французских текстов ( преимущественно литературных ) XVI - XX вв. Данный проект, в реализации которого мы принимаем участие совместно с С. Гийо и С. Эйденом, потребовал определенной модернизации BFM. В частности, было решено представить тексты в формате XML в соответствии с рекомендациями TEI, что отвечает современным тенденциям развития корпусной лингвистики. При этом необходимо было решить ряд методологических и технических проблем, на которых следует остановиться подробнее.

103 Базовым принципом корпуса BFM является строгое соответствие критическому изданию. При этом вопрос о том, насколько достоверным источником лингвистических данных являются критические издания, остается открытым. Безусловно, ряд исследований ( например, анализ употребления знаков препинания ) на таком материале проводить в принципе невозможно. Вызывает сомнения пригодность критических изданий ( по крайней мере, части из них ) для изучения эволюции морфологических явлений ( например, редукции падежной системы ). В то же время в области лексикологии и синтаксиса критические издания могут, по всей видимости, служить достаточно достоверным источником данных. В любом случае источником материала могут служить либо точные дипломатические транскрипции рукописей, либо опубликованные критические издания, но не нечто среднее.

104 Формат XML позволяет воспроизвести не только сам текст произведения, но и целый ряд элементов критического аппарата ( нумерацию строк, использование различных шрифтов, варианты текста, примечания и т. п.). На данном этапе перевода корпуса BFM в формат XML было решено ограничиться включением лишь той части критического аппарата, которая с помощью каких - либо типографских средств интегрирована в текст произведения. Конкретно речь идет о : 1) выделении фрагментов текста особым шрифтом ( курсивом или малыми прописными ); 2) использовании квадратных скобок, многоточий на месте лакун манускрипта ; 3) нумерации строк, строф или параграфов. O сновополагающим принципом разметки текстов в системе TEI является кодирование не типографских средств, а содержательных элементов, для выделения которых служат эти типографские средства. Так, курсивом в тексте произведения могут отмечаться слова на иностранном языке. Таким образом, при разметке текстов корпуса BFM было необходимо провести содержательный анализ употребления типографских средств в издании, на основе которого создавалась электронная версия.

105 Опыт работы показал, что использование типографских средств в разных изданиях заметно различается. Более того, оно не всегда последовательно даже в рамках одного издания. В некоторых изданиях обнаружились ошибки при нумерации строк. Все это делает содержательную разметку более трудоемкой, но в то же время повышает ее ценность. Переформатирование корпуса BFM было также использовано для дополнительной вычитки электронных текстов ( проверки их соответствия печатным изданиям ). Эта работы была поручена группе специалистов по старофранцузскому языку. Они же должны были отметить в тексте использование специальных типографских средств и по возможности определить его функцию. При составлении инструкции для корректоров была сделана попытка максимально упростить техническую сторону их работы. С этой целью мы постарались свести к минимуму число тагов, которые корректорам следовало расставить в тексте. Все виды разметки, которые можно провести автоматически, осуществлялись уже после получения вычитанных текстов в лаборатории. В процессе работы корректорам предлагалось заполнить таблицу соответствия типографских средств и их функций в издании. В самом тексте требовалось отметить соответствующими тагами иностранные слова ( ), выделенные особым шрифтом имена собственные ( ) и исправления составителя критического издания ( ).

106 Исправления издателя, выделенные квадратными скобками, и лакуны, отмеченные многоточиями ( или многоточиями в квадратных скобках ), корректоры должны были оставить без изменений. В процессе окончательной доводки текста с помощью регулярных выражений эти фрагменты оформлялись как элементы и с указанием ответственного лица ( атрибут resp) и типографского средства ( атрибут rend). В ходе работы корректорами был отмечен ряд опечаток и ошибок в самих критических изданиях. Тем не менее, поскольку, как уже отмечалось, важнейшим принципом корпуса BFM является точное воспроизведение критического издания, даже в случае явной ошибки корректорам предлагалось оставить текст издания без изменений, а свои исправления и комментарии ввести с помощью элемента или атрибута corr в элементе.

107 Некоторые сложности возникли при выстраивании иерархической структуры текстов. Как известно, в рекомендациях TEI проводится фундаментальное различие между прозаическими и стихотворными текстами. В прозе базовым элементом структуры текста является абзац ( ), строки внутри которого могут факультативно помечаться элементом типа ( ). Согласно предлагаемому TEI DTD элемент не имеет атрибутов, кроме глобальных n и rend. В стихотворных произведениях базовым элементом является стих ( строка ), которому соответствует элемент. Прозаическим абзацам в стихах соответствуют ( элемент ). Последний элемент может иметь атрибут type, позволяющий уточнить, с какого рода группой стихов мы имеем дело ( строфа, куплет, ле и т. п.). Данная система вполне логична с точки зрения теории литературы, однако ее практическое применение на материале старофранцузских текстов не всегда удобно. Дело в том, что основная масса старофранцузских произведений, в том числе эпических и даже научных была написана в стихах. Такие тексты делятся на главы и, начало которых графически обозначается с помощью больших разноцветных буквиц. Эти параграфы в большей мере соответствуют прозаическим абзацам, чем стихотворным строфам. Кроме того, буквальное следование в данной ситуации рекомендациям TEI заметно осложнило бы работу наших корректоров. В то же время модификация стандартного DTD, разработанного TEI также представляется нежелательной.

108 В этих условиях было принято компромиссное решение : использовать для всех видов текстов в качестве базового элемента ; в стихотворных текстах для нумерации строк пользоваться элементом с атрибутом n, а элемент снабжать атрибутом rend со значениями > ' строфа ', ' куплет ' и т. д. В том случае, если данный не имеет специального названия, используется значение ' группа стихов '. В марте 2003 г. первые 15 текстов BFM были успешно интегрированы в состав корпуса FRANTEXT, окончательное же завершение проекта запланировано на конец этого года. При этом BFM продолжит свое существование и развитие в качестве самостоятельного корпуса. Планируется, в частности, продолжение морфосинтаксической разметки текстов и эксплуатация базы с использованием онлайнового анализатора Weblex.

109 НАЦИОНАЛЬНЫЙ КОРПУС РУССКОГО ЯЗЫКА

110 Корпус это информационно - справочная система, основанная на собрании текстов на некотором языке в электронной форме. Национальный корпус представляет данный язык на определенном этапе ( или этапах ) его существования и во всём многообразии жанров, стилей, территориальных и социальных вариантов и т. п.

111 Национальный корпус создается лингвистами ( специалистами по так называемой корпусной лингвистике, быстро развивающейся современной области языкознания ) для научных исследований и обучения языку.

112 Две важные особенности Во - первых, он характеризуется представительностью, или сбалансированным составом текстов. Это означает, что корпус содержит по возможности все типы письменных и устных текстов, представленные в данном языке, и что все эти тексты входят в корпус по возможности пропорционально их доле в языке соответствующего периода.

113 Две важные особенности Планируемый составителями объем Национального корпуса русского языка 200 млн. слов.

114 Две важные особенности Во - вторых, корпус содержит особую дополнительную информацию о свойствах входящих в него текстов ( так называемую разметку, или аннотацию ). Разметка главная характеристика корпуса ; она отличает корпус от простых коллекций ( или « библиотек ») текстов, в изобилии представленных в современном интернете, в том числе и на русском языке языке ( таких, как, по - видимому, наиболее известная « библиотека Максима Мошкова » или, например, « Русская виртуальная библиотека »). библиотека Максима Мошкова Русская виртуальная библиотека

115 Две важные особенности В настоящее время специалистами создана и пополняется также « Фундаментальная электронная библиотека » русской классической литературы, Фундаментальная электронная библиотека

116 Четыре типа разметки В Национальном корпусе русского языка в настоящее время используется четыре типа разметки : метатекстовая, морфологическая, акцентная, семантическая ; в ближайшее время планируется внедрение синтаксической разметки. Система разметки постоянно совершенствуется.

117 Зачем нужен национальный корпус ? Национальный корпус предназначен в первую очередь для обеспечения научных исследований лексики и грамматики языка, а также тонких, но непрерывных процессов языковых изменений, происходящих в языке на протяжении сравнительно небольших периодов от одного до двух столетий.

118 Зачем нужен национальный корпус ? Другая задача корпуса предоставление всевозможных справок, относящихся к указанным областям ( лексика, грамматика, акцентология, история языка )

119 Как развивается Национальный корпус ? Национальный корпус русского языка охватывает прежде всего период от середины XVIII до начала XXI века : этот период представляет как язык предшествующих эпох, так и современный, в разных социолингвистических вариантах литературном, разговорном, просторечном, отчасти диалектном.

120 Что включает в себя Национальный корпус русского языка ? В корпус включаются оригинальные ( непереводные ) произведения художественной литературы ( проза и драматургия, в дальнейшем также поэзия ), имеющие культурную значимость, а также представляющие интерес с точки зрения языка. Но Национальный корпус ни в коей мере не является только корпусом языка художественной литературы.

121 Что включает в себя Национальный корпус русского языка ? Помимо художественных текстов, в корпус в большом количестве включаются и другие образцы письменного ( а для современного этапа и устного ) языка : мемуары, эссеистика, публицистика, научно - популярная и научная литература, публичные выступления, частная переписка, дневники, документы и т. п.

122 Подкорпуса параллельный русско - английский корпус текстов, в котором можно найти все переводы для определенного русского или английского слова или словосочетания ; параллельный русско - английский корпус текстов корпус диалектных текстов, включающий запись диалектной речи различных регионов России с сохранением их грамматической специфики ; предусмотрен специальный поиск с учётом диалектной морфологии ; корпус диалектных текстов корпус поэтических текстов, в котором возможен поиск не только по лексическим и грамматическим, но и по специфическим для стиха признакам ( поиск определённого сочетания в сонетах, в эпиграммах, в стихотворениях, написанных амфибрахием, с определённым типом рифмовки и т. п.) корпус поэтических текстов

123 Современные письменные тексты современная художественная проза разных жанров и направлений современная драматургия мемуарно - биографическая литература журнальная публицистика и литературная критика газетная публицистика и новости научные, научно - популярные и учебные тексты религиозные и религиозно - философские тексты производственно - технические тексты официально - деловые и юридические тексты бытовые тексты ( в том числе тексты, не предназначенные для публикации : личная переписка, дневники и т. п.)

124 Основной корпус текстов

125 Страница установки пользовательского подкорпуса

126 Интернет как корпус ? За : Огромная база данных Динамично расширяется Идеальный « быстрый и грязный » метод поиска Против : Много « спама », ненужной информации Сложно выделить самое надежное и нужное Отсутствует языковой анализ Поиск только линейный

127 Спасибо за внимание !

128 Приложение : Developing a corpus from the Web (Roman Sigg and Vanessa Shokeir) Task and plan Develop a Swabian corpus from the materials available on the web Steps 1. Determine research topic 2. Define language 3. Identify sources 4. Build the corpus 5. Tag corpus 6. Ask query

129 1 Determine research topic We wish to investigate lexical and morphological oddities of Swabian. – Considerable resources are required for tree- structure analysis. – This prohibits research into structural syntactic questions. Lexical questions our best-suited to our small and varied corpus (at least preliminarily). We are studying a diminutive peculiar to Swabian, -le, not used in standard German.

130 2 Define the language – the German dialect spoken North of the Donau, West the River Lech, East of the Black Forrest, and as far North as Stuttgart. – Another possible name for Swabian is North Alemanic. The diphthongs are a key marker of this dialect. – e.g. breit is [broad] Opposed to Swiss and Standard German, the vowels are unrounded. – e.g. frosch is fr[e]sch The continuous nature of dialects makes it difficult to determine which texts may be included in our corpus.

131 3 Identify sources Initially, we began our study as if we are developing an opportunistic, attempting to identify any possible source, without eliminating problematic materials.

132 The bible Although the bible may not represent completely natural speech or writing, the Swabian bible is written in (close to) present day Swabian; thus its language is not as marked most biblical texts.

133 Newpapers Swabian newspapers contained only standard German. – Other dialects are represented in newspaper writing. – e.g. Sample from Swiss German dialect newspaper column is opposite.

134 Plays Plays and radio shows are written to typify the dialect. e.g. Hannes und der Burgermeister – Klinsmann Can they be considered authentic use of the language? How can the audio files be made usable? Copyright issues?

135 Dialect dictionaries,Wikipedia in Swabian These sources provide some lexical items, but do not represent speech.

136 Other sources Personal webpages – Must judge of speakers are actually Swabian Project Gutenberg – Author must be dead for 70 years, therefore not current. Guestbooks – Texts are short, but they reflect non- contrived writing. Menus and Recipes – Terms are specific and text is limited. Newsgroups – Swabian newsgroup alt.aeffle.und.pferdle

137 4 Build the corpus Using the pre-beta version of j-bootcat, we found pages through google defined by culinary terms. – e.g. Spaetzle, Wuerstle, Maultasche, and Trollinger We tried to deselect all advertisements, menus, and tourist information sites: anything that was not a personally written recipe or commentary on food.

138 Difficulties with Bootcat Bootcat does not excluded embedded.pdf,.gif and other non-text files. The quality of data is dependent on the quality of the html programming. Bootcat often included in extended standard German texts, included based on only a few tokens of Swabian.

139 5 Tag corpus We applied a Brill-Tagger to the corpus. Although this tagger works well for standard German, its application to dialects is problematic. – e.g., The tagger could not recognize isch as a verb.

140 6 Ask query Searched for tokens ending in le Used a regular expression in a text editor. – i.e. le/s

141 Problems with results Search returned unwanted terms. – e.g. alle and Italicangle Search returned many of the same token. – e.g. Kracherle and Spatzle We would like to find productive use of this diminutive – e.g. Telefonle or Computerle We found other languages embedded in the data. – e.g. the French le

142 Overall issues in dialect corpus development Orthography is not standardized. – Because of these inconsistencies, it would be difficult to lemmatize and to search. Not easy to build a functional and genuine dialect corpus with web data. Every page must be checked by hand to establish whether it has authentic dialect data.

143 Comments Not easy to build a functional and genuine dialect corpus with web data. Every page must be checked by hand to establish whether it has authentic dialect data.

144 BTANT 129 w5

145