Автор Тема: Файловая система для медленного hdd  (Прочитано 23165 раз)

Оффлайн Speccyfighter

  • Мастер
  • ***
  • Сообщений: 9 123
  • UNIX System V init
Re: Файловая система для медленного hdd
« Ответ #15 : 15.11.2020 11:54:46 »
Новый не хочу ставить пока, ничего важного не храню.
Диск тормозит только при параллельных/многопоточных операциях,

Сам xfce-sysv, вообще редко дёргает диск, разве что браузер как приложение:
# iotop -ao -d 5
Total DISK READ : 0.00 B/s | Total DISK WRITE :       8.73 K/s
Actual DISK READ: 0.00 B/s | Actual DISK WRITE:       0.00 B/s
    TID  PRIO  USER     DISK READ  DISK WRITE  SWAPIN     IO>    COMMAND                                                                             
  40042 be/4 root          0.00 B      0.00 B  0.00 %  0.18 % [kworker/2:2-mm_percpu_wq]
  40654 be/4 root          0.00 B      0.00 B  0.00 %  0.02 % [kworker/u8:0-i915]
   2819 be/3 root          0.00 B    172.00 K  0.00 %  0.01 % [jbd2/sdb1-8]
  40733 be/4 root          0.00 B      0.00 B  0.00 %  0.01 % [kworker/u8:1-events_unbound]
   8776 be/4 user          0.00 B    196.00 K  0.00 %  0.00 % palemoon -P default [mozStorage #3]
   5001 be/4 root          0.00 B      0.00 B  0.00 %  0.00 % X :0 -audit 0 -auth /var/lib/gdm/:0.Xauth -nolisten tcp vt7
   4345 be/4 root          0.00 B     16.00 K  0.00 %  0.00 % rsyslogd [rs:main Q:Reg]
   8735 be/4 user          0.00 B      4.00 K  0.00 %  0.00 % palemoon -P default [Cache2 I/O]
   8774 be/4 user          0.00 B     44.00 K  0.00 %  0.00 % palemoon -P default [mozStorage #1]
   8786 be/4 user          0.00 B   1820.00 K  0.00 %  0.00 % palemoon -P default [mozStorage #6]
ZX Spectrum 128K
Привет от NM:  # echo -e "\n[device]\nwifi.scan-rand-mac-address=no" >> /etc/NetworkManager/NetworkManager.conf

Оффлайн Speccyfighter

  • Мастер
  • ***
  • Сообщений: 9 123
  • UNIX System V init
Re: Файловая система для медленного hdd
« Ответ #16 : 15.11.2020 12:16:35 »
А вот dd if=/dev/zero маленькими частями,предполагаю, может существенно сократить количество ошибок диска.

Можно предварительно проверить или заблокировать использование bad-блоков:
https://forum.altlinux.org/index.php?topic=32361.msg276715#msg276715

А с /dev/zero на hdd, это как повезёт:
https://forum.altlinux.org/index.php?topic=13216.msg272847#msg272847
ZX Spectrum 128K
Привет от NM:  # echo -e "\n[device]\nwifi.scan-rand-mac-address=no" >> /etc/NetworkManager/NetworkManager.conf

Оффлайн gosts 87

  • Давно тут
  • **
  • Сообщений: 315
Re: Файловая система для медленного hdd
« Ответ #17 : 15.11.2020 14:20:38 »
алё,у нас зарплаты от 12 т.р и коммуналка! Gosts 87, оставьте такие оценочные высказывания.
Вы меня, конечно, извините, но в этом случае можно накопить...
И, да - я имею ввиду именно HDD, а не SSD.
« Последнее редактирование: 15.11.2020 14:23:00 от gosts 87 »

Оффлайн Speccyfighter

  • Мастер
  • ***
  • Сообщений: 9 123
  • UNIX System V init
Re: Файловая система для медленного hdd
« Ответ #18 : 15.11.2020 19:52:17 »
Опять же моё ИМХО:
Учитывая что атрибуты C6 C5 и 05 в нуле и напрямую относится к секторам, растёт количество некорректируемых ошибок в отрибуте BB. И атрибут 07, который имеет прямое отношение к сервоприводу hdd, связал бы с атрибутом C3.
ZX Spectrum 128K
Привет от NM:  # echo -e "\n[device]\nwifi.scan-rand-mac-address=no" >> /etc/NetworkManager/NetworkManager.conf

Оффлайн Kzin

  • Начинающий
  • *
  • Сообщений: 4
Re: Файловая система для медленного hdd
« Ответ #19 : 16.11.2020 17:01:46 »
Не стал заморачиваться с многочасовой проверкой диска или затиранием свободного места и установил  xfce-sysv, предварительно переразметив таблицу разделов. Система загружается в течение секунд, а не минут как раньше, а файловые операции как мне кажется не вызывают прежних адовых тормозов и треска, посмотрю что будет дальше.

Оффлайн Speccyfighter

  • Мастер
  • ***
  • Сообщений: 9 123
  • UNIX System V init
Re: Файловая система для медленного hdd
« Ответ #20 : 16.11.2020 18:44:27 »
Не стал заморачиваться с многочасовой проверкой диска или затиранием свободного места и установил  xfce-sysv, предварительно переразметив таблицу разделов. Система загружается в течение секунд, а не минут как раньше, а файловые операции как мне кажется не вызывают прежних адовых тормозов и треска, посмотрю что будет дальше.

xfce-sysv следовал, следует и будет следовать принципу разумного умолчания:
Если системе нечего делать, она должна ждать. Не проявляя активность и инициативу.

Чего не следует делать при просьбах добавления пакета(ов) в xfce-sysv:
Не следует просить добавить пакеты индексаторов и других программ, активно работающих в фоне, тем более активно дёргающих дисковую подсистему. В таких просьбах будет отказано.

xfce-sysv, как и все другие системы на init, способен работать в агрессивной среде, чем в данном случае и является обсуждаемый винчестер с высокой степенью износа. Такие варианты в xfce-sysv учитывались изначально (имея опыт на умирающем samsung во времена knoppix 3.3).
ZX Spectrum 128K
Привет от NM:  # echo -e "\n[device]\nwifi.scan-rand-mac-address=no" >> /etc/NetworkManager/NetworkManager.conf

Оффлайн rabochyITs

  • Давно тут
  • **
  • Сообщений: 572
  • Евгений
Re: Файловая система для медленного hdd
« Ответ #21 : 16.11.2020 19:08:55 »
Если системе нечего делать, она должна ждать. Не проявляя активность и инициативу.
Лично я, именно это люблю в сборках Linux

Оффлайн Speccyfighter

  • Мастер
  • ***
  • Сообщений: 9 123
  • UNIX System V init
Re: Файловая система для медленного hdd
« Ответ #22 : 17.11.2020 04:58:09 »
Если системе нечего делать, она должна ждать. Не проявляя активность и инициативу.
Лично я, именно это люблю в сборках Linux

:-) В xfce-sysv есть два системных процесса, от которых не избавиться:
jbd2 (Journaling Block Device) и rsyslogd.
Первый относится к журналированию, а rsyslogd редко и мало тревожит диск, сбрасывая совсем копейки.
Например за 3 часа 2 минуты 44 секунды, rsyslogd сбросил на диск только 368 килобайт, что менее сотой процента по I/O:
# time -f %E iotop -ao -d 5

Total DISK READ :       0.00 B/s | Total DISK WRITE :       2.38 K/s
Actual DISK READ:       0.00 B/s | Actual DISK WRITE:       3.97 K/s
    TID  PRIO  USER     DISK READ  DISK WRITE  SWAPIN     IO>    COMMAND                                                                             
   6129 be/4 user          0.00 B    568.40 M  0.00 %  0.12 % palemoon -P default [DOM Worker]
   9600 be/4 root          0.00 B      0.00 B  0.00 %  0.18 % [kworker/0:2-events_freezable_power_]
   2872 be/3 root          0.00 B     18.21 M  0.00 %  0.02 % [jbd2/sdb1-8]
   6148 be/4 user     0.00 B     57.48 M  0.00 %  0.01 % palemoon -P default [mozStorage #2]
   6103 be/4 user     2.80 M     12.46 M  0.00 %  0.01 % palemoon -P default [Cache2 I/O]
   6083 be/4 user          6.00 M      0.00 B  0.00 %  0.00 % palemoon -P default
   5051 be/4 root     0.00 B      8.00 K  0.00 %  0.00 % X :0 -audit 0 -auth /var/lib/gdm/:0.Xauth -nolisten tcp vt7
   9664 be/4 root          0.00 B      0.00 B  0.00 %  0.02 % [kworker/u8:2-events_unbound]
   6146 be/4 user          4.00 K      8.48 M  0.00 %  0.00 % palemoon -P default [mozStorage #1]
   9680 be/4 root          0.00 B      0.00 B  0.00 %  0.01 % [kworker/u8:1-events_unbound]
   9738 be/4 root          0.00 B      0.00 B  0.00 %  0.02 % [kworker/u8:0-i915]
   6151 be/4 user         64.00 K      3.58 M  0.00 %  0.00 % palemoon -P default [localStorage DB]
   6115 be/4 user         16.00 K      0.00 B  0.00 %  0.00 % palemoon -P default [Compositor]
   9219 be/4 user         16.00 K      0.00 B  0.00 %  0.00 % palemoon -P default [mozStorage #8]
   8916 be/4 user  116.00 K      0.00 B  0.00 %  0.00 % bash
   6161 be/4 user          0.00 B    100.16 M  0.00 %  0.00 % palemoon -P default [mozStorage #6]
   6169 be/4 user          0.00 B   1156.00 K  0.00 %  0.00 % palemoon -P default [DOM Worker]
   6150 be/4 user          0.00 B     24.00 K  0.00 %  0.00 % palemoon -P default [mozStorage #4]
   5325 be/4 user          0.00 B     16.00 K  0.00 %  0.00 % xfce4-clipman
   6128 be/4 user          0.00 B   1352.00 K  0.00 %  0.00 % palemoon -P default [DataStorage]
   5054 be/4 root          0.00 B      0.00 B  0.00 %  0.00 % X :0 -audit 0 -auth /var/lib/gdm/:0.Xauth -nolisten tcp vt7
   6155 be/4 user          0.00 B      4.00 K  0.00 %  0.00 % palemoon -P default [mozStorage #5]
   9289 be/4 root          0.00 B      4.00 K  0.00 %  0.00 % su -
   4771 be/4 _chrony    0.00 B     12.00 K  0.00 %  0.00 % chronyd
   4396 be/4 root          0.00 B    368.00 K  0.00 %  0.00 % rsyslogd [rs:main Q:Reg]

3:02:44
ZX Spectrum 128K
Привет от NM:  # echo -e "\n[device]\nwifi.scan-rand-mac-address=no" >> /etc/NetworkManager/NetworkManager.conf

Оффлайн Mr.Madguy

  • Давно тут
  • **
  • Сообщений: 152
Re: Файловая система для медленного hdd
« Ответ #23 : 18.11.2020 17:48:22 »
при этом во время загрузки и операциях чтения/записи жёсткий диск неистово трещит и тормозит.

Это трещит БМГ (Блок Магнитных Головок).

Смотрите атрибут 07 (hex):
https://www.ixbt.com/storage/hdd-smart-testing.shtml#n6

RAW_VALUE атрибута 07 должен быть равен нулю, если БМГ в идеальном состоянии:
# smartctl -x /dev/sda | grep '^ID#\|^  7'
ID# ATTRIBUTE_NAME          FLAGS    VALUE WORST THRESH FAIL RAW_VALUE
  7 Seek_Error_Rate         POSR-K   200   200   051    -    0

А у вас RAW_VALUE потрясающе высокое:
$ ./base.sh 0x218810ea
hex=218810EA    dec=562565354    oct=4142010352    bin=100001100010000001000011101010

См. листинг скрипта base.sh:
Приёмы профессиональной работы в shell
Скрипт hex<->dec<->oct<->bin

Прекрасный скрипт для перевода чисел из одной системы счисления в другую
https://forum.altlinux.org/index.php?topic=32361.msg351134#msg351134
Оглавление справочника:
https://forum.altlinux.org/index.php?topic=32361.msg227843#msg227843
Сам долго парился по поводу этого атрибута на своем новеньком Seagate. Замучил всех, если честно. Потом мне наконец один товарищ объяснил, что на дисках Seagate это значение не отражает состояние диска. Оно показывает какой-то там логарифм отношения числа ошибок к числу операций, счетчик которых периодически переполняется. И там все это дело нужно смотреть в динамике.

Более старый Seagate, который я и решил заменить, у меня вообще веселый. У него Raw значение переназначенных секторов 16800, что по сути должно быть смертельно. Но он как работал прекрасно, так и работает. И это значение никак не меняется. Так что может быть это просто какой-то глюк.

Не знаю насчет Linux, но в Windows с задачей проверки диска как ни странно лучше всего справляется банальный CheckDisk. У меня есть загрузочная флэшка с Win8, т.к. именно начиная с Win8 сделали возможность просто тупо запускать режим восстановления без всяких заморочек. Запускаю с нее CheckDisk с ключем на проверку поверхности. И вуаля. Если есть плохие сектора, то они просто тупо помечаются как плохие и диск далее работает совершенно прекрасно, если конечно это только единичный случай и он не помирает. В таком случае его лучше скопировать на новый при помощи ddresque.

Насчет старости диска, тут лучше Викторией сделать быстрое тестирование. Если скорость чтения более или менее равномерная и соответствует заявленной, то значит все нормально. А если проседает и скачет, то значит поверхность или БМГ уже старые и помирают.

Признаки мертвого диска во вложении. Кстати чтобы избежать вот такой преждевременной гибели вашего диска, рекомендую отключать управление энергосбережением и шумом. Толку никакого, а диск живет в два раза меньше.
« Последнее редактирование: 18.11.2020 18:42:23 от Mr.Madguy »

Оффлайн Speccyfighter

  • Мастер
  • ***
  • Сообщений: 9 123
  • UNIX System V init
Re: Файловая система для медленного hdd
« Ответ #24 : 18.11.2020 19:57:19 »
Не знаю насчет Linux, но в Windows с задачей проверки диска как ни странно лучше всего справляется банальный CheckDisk.

В Линукс с этим справляется банальный fsck.ext4:
$ man fsck.ext4 | sed -n '66,73p'

       -c     This  option  causes e2fsck to use badblocks(8) program to do a read-
              only scan of the device in order to find any bad blocks.  If any  bad
              blocks  are  found,  they are added to the bad block inode to prevent
              them from being allocated to a file or directory.  If this option  is
              specified  twice,  then  the bad block scan will be done using a non-
              destructive read-write test.


Можно предварительно проверить или заблокировать использование bad-блоков:
https://forum.altlinux.org/index.php?topic=32361.msg276715#msg276715

- Подготовка и форматирование разделов в ext4.
- Проверка этих разделов с опцией -c или -c -c.
- Установка системы без форматирования.


1257 pending секторов должно насторожить. Это слишком много. Такое количество pending секторов, может сказать, что началась интенсивная деградация блинов. Обычно их может появиться до десятка. А здесь их на три порядка больше. Например в древнем WD IDE, только 34 резервных сектора. И количество резервных секторов для релокации, не бесконечно.
ZX Spectrum 128K
Привет от NM:  # echo -e "\n[device]\nwifi.scan-rand-mac-address=no" >> /etc/NetworkManager/NetworkManager.conf

Оффлайн Speccyfighter

  • Мастер
  • ***
  • Сообщений: 9 123
  • UNIX System V init
Re: Файловая система для медленного hdd
« Ответ #25 : 18.11.2020 20:29:00 »
Нежурналируемые fs это,наверное, слишком.

Эта байка напета интернетами. Которые не читают, ни справку в Windows, ни man -ы в Линукс.
Если всегда помнить о SysRq, то эта проблема отсутствует дефакто.
В этом случае единственный кто может здесь напортачить, это электросети.

В году 2006-ом, у меня был корпус десктопа, в котором вообще не было кнопки Reset. Да она Unix-подобным системам и не нужна. Но пользователь Windows пришедший на Линукс, всё равно упорно по виндовой привычке жмёт Reset или Poweroff, - сам себе создал проблему,  сам её и получил, сам потом с ней и сражается.
ZX Spectrum 128K
Привет от NM:  # echo -e "\n[device]\nwifi.scan-rand-mac-address=no" >> /etc/NetworkManager/NetworkManager.conf

Оффлайн gosts 87

  • Давно тут
  • **
  • Сообщений: 315
Re: Файловая система для медленного hdd
« Ответ #26 : 18.11.2020 21:11:58 »
Более старый Seagate, который я и решил заменить, у меня вообще веселый. У него Raw значение переназначенных секторов 16800, что по сути должно быть смертельно. Но он как работал прекрасно, так и работает. И это значение никак не меняется. Так что может быть это просто какой-то глюк.

Не знаю насчет Linux, но в Windows с задачей проверки диска как ни странно лучше всего справляется банальный CheckDisk.
Ну так одному только СМАРТу доверять не стоит. После него лучше проверить диск ещё какой-то программой.

Оффлайн Mr.Madguy

  • Давно тут
  • **
  • Сообщений: 152
Re: Файловая система для медленного hdd
« Ответ #27 : 18.11.2020 22:56:19 »
Ну так одному только СМАРТу доверять не стоит. После него лучше проверить диск ещё какой-то программой.
А чем еще можно проверить, есть ли в действительности переназначенные сектора, если этот параметр является в большинстве случаев прозрачным? Я знаю только про аппаратные методы, типа подключения терминала к диагностическому разъему диска, и некие манипуляции, которые вроде как позволяют сбросить параметры СМАРТ. Но у меня к сожалению нет такого оборудования.
1257 pending секторов должно насторожить. Это слишком много. Такое количество pending секторов, может сказать, что началась интенсивная деградация блинов. Обычно их может появиться до десятка. А здесь их на три порядка больше. Например в древнем WD IDE, только 34 резервных сектора. И количество резервных секторов для релокации, не бесконечно.
Да, это скорее всего деградация БМГ из за частых парковок в результате менеджмента питания и шума, на что указывает "красный" параметр числа парковок БМГ. А диск ведь отработал всего 7к часов. К примеру мой старый диск отработал 20к часов и все еще жив. Число парковок на нем - 6к. Благо я в свое время пожадничал и купил компьютер с двумя одинаковыми дисками. Как результат - никакого дорогого ремонта, просто несколько часов копирования при помощи ddresque и компьютер снова в полностью рабочем состоянии. Потери были, но минимальные. Но ради интереса этот диск все еще подключен и я за ним слежу. Число этих секторов плавает в районе 1300-1400. Плохо то, что они не переходят в разряд переназначенных. Т.е. ситуация не исправляется. Обычно появляется где-то битый сектор, из за которого идут тормоза. Проверил диск CheckDiskом и он переназначается. И проблема в общем то решается. Вероятно для этого необходимо попробовать их перезаписать. Но я что то уже не хочу его трогать. И так ясно, что он дохлый. Хотя есть конечно шанс, что проблемы чисто логические, типа битых CRC в результате каких-то ошибок записи, и после перезаписи они могут пропасть. Но шансов мало. Похоже, что БМГ деградировал и в результате начали появляться ошибки записи, а с ними и ошибки чтения.
« Последнее редактирование: 18.11.2020 23:10:53 от Mr.Madguy »

Оффлайн gosts 87

  • Давно тут
  • **
  • Сообщений: 315
Re: Файловая система для медленного hdd
« Ответ #28 : 18.11.2020 23:38:41 »
А чем еще можно проверить, есть ли в действительности переназначенные сектора, если этот параметр является в большинстве случаев прозрачным?
Есть такие программы, как badblocks (в консольном режиме).
Насколько я знаю диск лучше проверять тем же СМАРТом подключив его как дополнительный, т.е. из под другой ОС, или подключив флэшку в Live-режиме и запустить SMART с неё. Иначе, если запустить проверку диска - как основного, можно получить некорректные данные.
« Последнее редактирование: 18.11.2020 23:52:34 от gosts 87 »

Оффлайн Speccyfighter

  • Мастер
  • ***
  • Сообщений: 9 123
  • UNIX System V init
Re: Файловая система для медленного hdd
« Ответ #29 : 19.11.2020 05:43:07 »
Ну так одному только СМАРТу доверять не стоит.

ST1000LM024:
- Свыше тысячи секторов кандидатов на релокацию.
- Свыше четырёх тысяч неудачных попыток записи.
- Под восемь тысяч неудачных попыток загрузок/выгрузок БМГ.
- 35 случаев неаккуратного обращения с жёстким диском.
Считаете что жёсткий диск о себе врёт?
Вы кого хотите обмануть, себя или жёсткий диск? :-)


1257 pending секторов должно насторожить. Это слишком много. Такое количество pending секторов, может сказать, что началась интенсивная деградация блинов. Обычно их может появиться до десятка. А здесь их на три порядка больше. Например в древнем WD IDE, только 34 резервных сектора. И количество резервных секторов для релокации, не бесконечно.
Да, это скорее всего деградация БМГ из за частых парковок в результате менеджмента питания и шума, на что указывает "красный" параметр числа парковок БМГ. А диск ведь отработал всего 7к часов. К примеру мой старый диск отработал 20к часов и все еще жив. Число парковок на нем - 6к.

# smartctl -A /dev/sdc
smartctl 7.0 2018-12-30 r4883 [x86_64-linux-5.4.62-std-def-alt1] (ALT Sisyphus 7.0-alt1)
Copyright (C) 2002-18, Bruce Allen, Christian Franke, www.smartmontools.org

=== START OF READ SMART DATA SECTION ===
SMART Attributes Data Structure revision number: 16
Vendor Specific SMART Attributes with Thresholds:
ID# ATTRIBUTE_NAME          FLAG     VALUE WORST THRESH TYPE      UPDATED  WHEN_FAILED RAW_VALUE
  1 Raw_Read_Error_Rate     0x000b   100   100   050    Pre-fail  Always       -       0
  2 Throughput_Performance  0x0005   100   100   050    Pre-fail  Offline      -       0
  3 Spin_Up_Time            0x0027   100   100   001    Pre-fail  Always       -       2351
  4 Start_Stop_Count        0x0032   100   100   000    Old_age   Always       -       23168
  5 Reallocated_Sector_Ct   0x0033   100   100   050    Pre-fail  Always       -       0
  7 Seek_Error_Rate         0x000b   100   100   050    Pre-fail  Always       -       0
  8 Seek_Time_Performance   0x0005   100   100   050    Pre-fail  Offline      -       0
  9 Power_On_Hours          0x0032   008   008   000    Old_age   Always       -       36911
 10 Spin_Retry_Count        0x0033   253   100   030    Pre-fail  Always       -       0
 12 Power_Cycle_Count       0x0032   100   100   000    Old_age   Always       -       1730
191 G-Sense_Error_Rate      0x0032   100   100   000    Old_age   Always       -       0
192 Power-Off_Retract_Count 0x0032   099   099   000    Old_age   Always       -       836
193 Load_Cycle_Count        0x0032   069   069   000    Old_age   Always       -       314635
194 Temperature_Celsius     0x0022   100   100   000    Old_age   Always       -       47 (Min/Max 9/56)
196 Reallocated_Event_Count 0x0032   100   100   000    Old_age   Always       -       0
197 Current_Pending_Sector  0x0032   100   100   000    Old_age   Always       -       0
198 Offline_Uncorrectable   0x0030   100   100   000    Old_age   Offline      -       0
199 UDMA_CRC_Error_Count    0x0032   200   200   000    Old_age   Always       -       0
220 Disk_Shift              0x0002   100   100   000    Old_age   Always       -       79
222 Loaded_Hours            0x0032   077   077   000    Old_age   Always       -       9276
223 Load_Retry_Count        0x0032   100   100   000    Old_age   Always       -       0
224 Load_Friction           0x0022   100   100   000    Old_age   Always       -       0
226 Load-in_Time            0x0026   100   100   000    Old_age   Always       -       217
240 Head_Flying_Hours       0x0001   100   100   001    Pre-fail  Offline      -       0

У этого жёсткого диска:
- Ноль релоцированных секторов
- Ноль ошибок позиционирования
- 36911 часов наработки
- Ноль ударных нагрузок
- 314635 парковок/распарковок
- Ноль кандидатов на релокацию
- Ноль повторных попыток загрузок/выгрузок БМГ

Куплен он был, в 2007-ом году. Ему уже 13 лет.
« Последнее редактирование: 19.11.2020 05:45:08 от Speccyfighter »
ZX Spectrum 128K
Привет от NM:  # echo -e "\n[device]\nwifi.scan-rand-mac-address=no" >> /etc/NetworkManager/NetworkManager.conf