Перейти к содержимому


Надежность хранения на HDD


Сообщений в теме: 60

#1 Dmitry Logatchev

    Я еще не научился фотографировать

  • Пользователь
  • 21106 сообщений
  • Город:St. Petersburg, Russia

Отправлено 16 April 2008 - 20:42

Вот файл, который хранился на жестком диске около двух лет :)
Прикрепленное изображение: IMGP0074.jpg
Прикрепленное изображение: Untitled_1.jpg
Как такое могло случиться?
И такое на многих файлах.

#2 AZET

    cameraman

  • Пользователь
  • 1387 сообщений
  • Город:Москва

Отправлено 16 April 2008 - 21:16

Увы. А было ли такое же повреждение файла изначально? Обычно сбрасываем на архивный HDD, посмотрим для контроля пару файлов и прячем.

#3 Dmitry Logatchev

    Я еще не научился фотографировать

  • Пользователь
  • 21106 сообщений
  • Город:St. Petersburg, Russia

Отправлено 16 April 2008 - 22:01

Просмотр сообщенияAZET (16.4.2008, 22:15) писал:

Увы. А было ли такое же повреждение файла изначально? Обычно сбрасываем на архивный HDD, посмотрим для контроля пару файлов и прячем.
Да нет, эти фоты я смотрел и даже печатал некоторые из этой папки. Испорчена оказалась в папке только одна. В соседних папках тоже есть несколько с разной степенью повреждения, причем повреждения такого характера и на цифровых и на сканах с пленки. Представленный пример, кстати, RAW.

#4 V.A.

  • Пользователь
  • 2324 сообщений
  • Город:spb.ru

Отправлено 16 April 2008 - 22:41

Никогда такого не видел. Дас ист фантастиш.

#5 Serge S.

  • Пользователь
  • 269 сообщений
  • Город:Москва

Отправлено 16 April 2008 - 22:48

Сочувствую. Почитайте http://forum.ixbt.co...=print:23:28361
возможно, поможет.
Я уже слышал про подобные случае. Если заголовок файла (jpg) сохранился, а дальше инфа побилась, то такой файл тоже открывается просмоторщиками наполовину. Слышал, что восстанавливают как-то.

зы. Пойду забэкаплю архив на DVD болванки.

#6 SeA

  • Пользователь
  • 168 сообщений
  • Город:Питер

Отправлено 19 April 2008 - 19:56

Просмотр сообщенияDmitry Logatchev (16.4.2008, 21:41) писал:

Как такое могло случиться?
И такое на многих файлах.
Вероятно, винт сыпется. Если прогрессирует, то менять.
Показатели СМАРТ какие? (Можно, например, вот этой программой посмотреть)

#7 var-alex

  • Пользователь
  • 689 сообщений
  • Город:г. Коломна МО

Отправлено 20 April 2008 - 11:08

Когда то давно, в конференции фидо посвященной жестким дискам был выдвинут тезис, который поддержали все участники конференции. А тезис был такой - "жесткий диск не место для ХРАНЕНИЯ информации". Этим сказано ВСЕ.

#8 Четыре

  • Пользователь
  • 599 сообщений

Отправлено 20 April 2008 - 12:21

Я видел как при перекачке по кривой сети похожим образом бились тифы. Не знаю, лечится ли. Для битых жпегов есть прога под названием.. если не путаю, jpeg recovery.

#9 Dmitry Logatchev

    Я еще не научился фотографировать

  • Пользователь
  • 21106 сообщений
  • Город:St. Petersburg, Russia

Отправлено 21 April 2008 - 13:57

Просмотр сообщенияЧетыре (20.4.2008, 13:20) писал:

Я видел как при перекачке по кривой сети похожим образом бились тифы. Не знаю, лечится ли. Для битых жпегов есть прога под названием.. если не путаю, jpeg recovery.
Это RAW'ы :)

Просмотр сообщенияvar-alex (20.4.2008, 12:07) писал:

Когда то давно, в конференции фидо посвященной жестким дискам был выдвинут тезис, который поддержали все участники конференции. А тезис был такой - "жесткий диск не место для ХРАНЕНИЯ информации". Этим сказано ВСЕ.
А к какому они выводу пришли? Часто подобные конференции кончаются тезисом типа: "информацию хранить нельзя нигде" :)

#10 Schwanz

  • Пользователь
  • 10875 сообщений
  • Город:Москва

Отправлено 21 April 2008 - 14:10

как вариант хранить в архиве с избыточной информацией для восстановления

#11 Гость_Boris_*

  • Гость

Отправлено 21 April 2008 - 14:41

Дмитрий, сочувствую Вам. Могу только сказать, что никогда нельзя хранить информацию на одном носителе. Желательно на двух или даже нескольких. Я лично считаю, что хранение информации на ЖД с резервной копией на другом ЖД (внешнем) достаточно надежно.

Дать же 100% гарантии не может не одно решение.

Лично мой опыт показывает, что ДВД - ненадежный носитель. С другой стороны, если вложить деньги и создать сейф с контролируемыми условиями, то все меняется. Но это уже совсем другие затраты.

Вот еще ссылочка: (англ.)
http://www.taobackup.com/

#12 SeA

  • Пользователь
  • 168 сообщений
  • Город:Питер

Отправлено 21 April 2008 - 15:05

Просмотр сообщенияDmitry Logatchev (21.4.2008, 14:56) писал:

А к какому они выводу пришли? Часто подобные конференции кончаются тезисом типа: "информацию хранить нельзя нигде" :)
Выводы давно известны - бэкап, бэкап и еще раз бэкап. Желательно на различные носители (например, две копии на ДВД одной партии рискуют сдохдуть одновременно).
"Вопрос не в том навернется ли оно, вопрос в том - когда это произойдет". Дублированием это "когда" и разносим.

#13 Гость_rapucha_*

  • Гость

Отправлено 22 April 2008 - 15:28

Просмотр сообщенияDmitry Logatchev (16.4.2008, 21:41) писал:

Как такое могло случиться?
И такое на многих файлах.
Не были ли файлы пересланы по сети, почте и тп. по ходу хранения?
Сбой на превьюшке или в самом теле RAW?
И каково здоровье диска, bad блоки и проч. как там?

Верится в такое безобразие с трудом, нехарактерное поведение для жесткого диска.

Говорите, такое на многих файлах. Именно горизонтальные полоски? Странно. Чтобы все файлы читались, но при этом с погрешностью.. Диск обычно, поняв что файл считать не удается, рапортует об отказе, и операционка выдает соответсвующие стоны.
Здесь же, вроде как, диск остался удовлетворен.. может кабель? Если винда у вас, то интересно посмотреть лог событий после работы с этим диском.

Короче, что-то тут не то. Нетипично очень.

#14 Гость_Valery_*

  • Гость

Отправлено 22 April 2008 - 18:11

У меня подобное наблюдалось с ТИФами. Ещё, горизонтальные фрагменты межу полосами, могли быть сдвинуты или переставлены местами. Причина была в "железе", сейчас уж не помню что конкретно.

Сообщение отредактировал Valery: 23 April 2008 - 22:08


#15 gigrus

  • Пользователь
  • 316 сообщений
  • Город:Курган

Отправлено 23 April 2008 - 21:51

Просмотр сообщенияrapucha (22.4.2008, 18:27) писал:

Не были ли файлы пересланы по сети, почте и тп. по ходу хранения?
Сбой на превьюшке или в самом теле RAW?
И каково здоровье диска, bad блоки и проч. как там?

Верится в такое безобразие с трудом, нехарактерное поведение для жесткого диска.

Говорите, такое на многих файлах. Именно горизонтальные полоски? Странно. Чтобы все файлы читались, но при этом с погрешностью.. Диск обычно, поняв что файл считать не удается, рапортует об отказе, и операционка выдает соответсвующие стоны.
Здесь же, вроде как, диск остался удовлетворен.. может кабель? Если винда у вас, то интересно посмотреть лог событий после работы с этим диском.

Короче, что-то тут не то. Нетипично очень.
Согласен с этим. Скорее всего ошибки произошли до записи. Если был бы виноват диск, файлы бы скорее всего не читались или ошибки носили бы хаотический порядок. Здесь прослеживается порядок. Впечатление битой линейки памяти, одной адресной линии, или еще чего то подобного. Где искать даже подсказать сложно. Проверяйте по очереди все. Я бы начал с чистки пыли внутри системника, ибо пыль это зло не только для фотоаппарата, но и для компьютера. Несколько раз встречался с таким, что компы просто не запускались из-за пыли внутри, после генеральной чистки все начинало работать. :)

Сообщение отредактировал gigrus: 23 April 2008 - 22:04


#16 var-alex

  • Пользователь
  • 689 сообщений
  • Город:г. Коломна МО

Отправлено 24 April 2008 - 08:29

Просмотр сообщенияDmitry Logatchev (21.4.2008, 14:56) писал:

Это RAW'ы :)
А к какому они выводу пришли? Часто подобные конференции кончаются тезисом типа: "информацию хранить нельзя нигде" :)
Дорстаточно надежные системы зранения есть. Но имеются ввиду системы ХРАНЕНИЯ (стриммеры например), ну и хитрые всякие RAID массивы. А вообще оптимально работаем на винте + бэкап на ленту + бэкап на физически удаленный сервер. У меня такого нету, поэтому я храню копию бэкапа на DVD у родителей.

Сообщение отредактировал var-alex: 24 April 2008 - 08:31


#17 nepuckon

  • Пользователь
  • 2060 сообщений

Отправлено 24 April 2008 - 10:02

Помнится, когда я только получил в руки Pentax, в наличии оказалась только старая карта MMC из древнего Сименса. Каково же было мое удивление, когда нормально выглядевшие на дисплее фотика фотографии при просмотре на компьютере превратились в пазлы! :) Т.е. при сохранении пропорции кадра, внутри изображение было разбито на разные прямоугольники расположенные в произвольном порядке, но без пробелов! :)

Похожее на то, что продемонстрировал Dmitry Logatchev у меня было один раз, когда во время записи на переносной диск завис компьютер и диск пришлось выдергивать без остановки. Тоже на одной фотографии появилась похожая длинная полоска.

Что касается хранения, то у меня все лежит на отдельном винчестере + архив на DVD + самые любимые/нужные/исторические пишу на магнитооптику.

#18 var-alex

  • Пользователь
  • 689 сообщений
  • Город:г. Коломна МО

Отправлено 24 April 2008 - 10:49

Просмотр сообщенияnepuckon (24.4.2008, 11:01) писал:

Помнится, когда я только получил в руки Pentax, в наличии оказалась только старая карта MMC из древнего Сименса. Каково же было мое удивление, когда нормально выглядевшие на дисплее фотика фотографии при просмотре на компьютере превратились в пазлы! :) Т.е. при сохранении пропорции кадра, внутри изображение было разбито на разные прямоугольники расположенные в произвольном порядке, но без пробелов! :)

Похожее на то, что продемонстрировал Dmitry Logatchev у меня было один раз, когда во время записи на переносной диск завис компьютер и диск пришлось выдергивать без остановки. Тоже на одной фотографии появилась похожая длинная полоска.

Что касается хранения, то у меня все лежит на отдельном винчестере + архив на DVD + самые любимые/нужные/исторические пишу на магнитооптику.
Это были jpeg которые таки испортились, или raw файлы?

#19 nepuckon

  • Пользователь
  • 2060 сообщений

Отправлено 24 April 2008 - 11:03

Просмотр сообщенияvar-alex (24.4.2008, 11:48) писал:

Это были jpeg которые таки испортились, или raw файлы?

В первом случае -- jpeg точно (самые первые мои фотки :) ), а вот на диск переписывал уже не помню что: или TIFF, или PEF. Помню только, что переписывал с целью дальнейшей обработки, т.е., видимо, TIFF.

#20 var-alex

  • Пользователь
  • 689 сообщений
  • Город:г. Коломна МО

Отправлено 24 April 2008 - 11:05

Просмотр сообщенияnepuckon (24.4.2008, 12:02) писал:

В первом случае -- jpeg точно (самые первые мои фотки :) ), а вот на диск переписывал уже не помню что: или TIFF, или PEF. Помню только, что переписывал с целью дальнейшей обработки, т.е., видимо, TIFF.
Да... jpeg тогда точно испортился. А вот с raw есть надежда что мог испортится только jpeg превью а сами данные целы...

#21 Гость_rapucha_*

  • Гость

Отправлено 27 April 2008 - 13:26

Просмотр сообщенияvar-alex (24.4.2008, 9:28) писал:

системы ХРАНЕНИЯ (стриммеры например), ну и хитрые всякие RAID массивы. А вообще оптимально

Как система хранния винт, кстати, неплох. Даже без избыточности данных, как есть. Только лежать он должен в сейфе.

Сообщение отредактировал rapucha: 27 April 2008 - 13:27


#22 Om81

    Секция Неправильных Фотографов

  • Пользователь
  • 7931 сообщений
  • Город:г.Люблино и г.Кисловодск

Отправлено 27 April 2008 - 23:09

Обычный, встроенный в материнку RAID-контроллер - вполне надежное решение. Хотя-бы банальный рэйд-1 на двух дисках с полным дублированием.. Чем не подходит? Статистическая вероятность отказа пренебрежительно мала, гораздо надежней оптических носителей и т.п.

#23 Гость_rapucha_*

  • Гость

Отправлено 27 April 2008 - 23:45

Просмотр сообщенияOm81 (28.4.2008, 0:08) писал:

Обычный, встроенный в материнку RAID-контроллер - вполне надежное решение. Хотя-бы банальный рэйд-1 на двух дисках с полным дублированием.. Чем не подходит? Статистическая вероятность отказа пренебрежительно мала, гораздо надежней оптических носителей и т.п.
Это не совсем "та" надежность. Много доп. факторов, от которых RAID не лечит. Архивный матриал лежит в архиве, а винт в живой системе можно очистить от информации многими способами. Хоть бы и случайно в /dev/null отослать:)
Да не винт там виноват. Информация с пластин имеет достаточно избыточности, чтобы четко отследить беду и внятно доложить об утрате данных.

Сообщение отредактировал rapucha: 27 April 2008 - 23:46


#24 var-alex

  • Пользователь
  • 689 сообщений
  • Город:г. Коломна МО

Отправлено 28 April 2008 - 08:24

Просмотр сообщенияOm81 (28.4.2008, 0:08) писал:

Обычный, встроенный в материнку RAID-контроллер - вполне надежное решение. Хотя-бы банальный рэйд-1 на двух дисках с полным дублированием.. Чем не подходит? Статистическая вероятность отказа пренебрежительно мала, гораздо надежней оптических носителей и т.п.
Оптические носители конечно менее надежны чем система с RAID особенно если она используется только на время backup и restore (по необходимости), но у дисков оптических + в том, что можно сделать несолько копий (это дешево) и хранить их в физически разнесенным местах.

Минус у опт дисков только 1 - необходимо (и это муторно) проверять читаемость их. Лучше почаще. Я стараюсь это делать примерно раз в полгода (дисков у меня не много, штук 8 CD и 5 DVD). При наличии проблем некоторых в чтении можно сделать копию, а диск выкинуть который не читается. Да, можно оценить по количесву внутрренних ошибок качесво носителя. прогами типа DVD Info Pro.

все самой собой imho

#25 Aphrican

  • Пользователь
  • 69 сообщений

Отправлено 28 April 2008 - 09:48

По теме.
У меня такое было, но только во встроенных превьюшках, извлечение из РАВа давало нормальную картинку в большинстве случаев. Виновата была флешка - одни контакт стал со временем "дребезжать".

Первый момент. Проверить, виноват в глюках винт или что другое достаточно просто. Если на винте были сбои, то они никуда не денутся, сыпящийся винт не восстанавливается. Проверьте винчестер любой программой, если сбойных секторов нет, то и проблемы не в нем.

Второй момент, полоса на изображении - очень характерна для битого ОДНОГО байта. Если винт сыпется, то летит обычно не один байт, а большая порция информации. Картинка тогда выглядит не так.

Не по теме. "Хорошо быть умным, как моя жена потом"
НЕ ХРАНИТЕ фотографии на одном винчестере! Вы кладете все яйца в одну корзину. Тем более не слушайте тех кто советует

Цитата

лежать он должен в сейфе
- 90% отказов приходятся на момент включения и отключения питания. Двадцать лет прошло, а статистика отказов все таже. И осыпавшийся винт это не самое страшное. Не дай бог будет бросок по питанию и сгорит контроллер.

Два винта хорошо, RAID массив еще лучше, но В РАЗЫ ДОРОЖЕ и добавляются еще контроллеры, которые могут сгореть = потеря ВСЕЙ информации. А сгорят они все вместе, бросок будет для всех устройств одного компьютера одинаковый. Вероятность малая, но она есть, на моей памяти с 2000 года в Москве таких бросков (с 220 до 400В) было два. В одном случае даже УПСы не спасли - сгорели вместе с компьютерами. Самое страшное, что от вас ничего не зависит. С Мосэнерго оба раза судились, деньги даже получили, но если бы вся информация была бы на винтах, то все тю-тю.

CD-DVD болванки менее надежны, но там вероятности отказов от другого зависят. Если правильно хранить болванку, то она портится минимально. Статистика показывает, что даже активно использовавшаяся болванка = сильно исцарапанная, теряет не более 15% информации. Причем царапается край, т.е. не системная информация. Убить болванку ЦЕЛИКОМ можно только самому по своей дурости. Варианты использования болванок DIGITEX и тому подобных - тоже относится к собственной дурости "не гонялся бы ты поп за дешевизной".

А что делать с потерянными 15%? Тут поможет только прием ТРИЗ "сделать заранее". Существуют легендарные коды Рида-Соломона. Берем программу расчитывающую коды, получаем избыточную информацию. Возможный процент потерь = половине избыточности, причем не важно, что похерилось сама информация или контрольные коды. То есть для оптических носителей теряем 30% объема под контрольные коды. Программ много - PAR2, QuickPAr, ICE ECC.

Для винта коды Рида-Соломона тоже пригодятся, только процент избыточности здесь я рассчитать не берусь, нет у меня статистики "осыпания" винтов. Избыточная информация у архивов почти теже коды, но для работы с файлами их нужно запаковывать-распаковывать. Время дороже.

#26 Гость_rapucha_*

  • Гость

Отправлено 28 April 2008 - 11:44

Просмотр сообщенияAphrican (28.4.2008, 10:47) писал:

По теме. коды Рида-Соломона. Берем программу расчитывающую коды, получаем избыточную
Хе. Когда перестал читаться нулевой сектор, или как оно там сейчас зовется, это не поможет.
В этом и проблема, отчасти по крайней мере--свою иформацию можно вполне помехоустйчиво закодировать, но системная информация носителя защищиена плохо. Избыточность может быть хоть 200%, а болванка просто не определяется приводом. Надежда остается, но количество головной боли сильно растет.

В этом плане ленточный архив лучше устроен. У него таблица размещения файлов может храниться-резервироваться отдельно. К тому же логическая структура полностью соответствует физической. У винчестера без проблем можно зарезервировать и FAT-MFT и таблицу разделов. А вот как резервировать-восстанававать сервоинформацию и маппинг логической структуры в физическую, неясно.

Кстати, применительно к оптическим носителям--надо бы присмотреться к файловой системе UDF. Есть подозрение, что там всякая "метаинформация" более разумно устроена.

#27 Om81

    Секция Неправильных Фотографов

  • Пользователь
  • 7931 сообщений
  • Город:г.Люблино и г.Кисловодск

Отправлено 28 April 2008 - 11:50

RAID-1 на двух съемных винчестерах :) И в сейф..))

Вообще для начала надо смарт винта посмотреть - если были такие сбои, они там должны быть отражены в виде "проседания" некоторых параметров

#28 var-alex

  • Пользователь
  • 689 сообщений
  • Город:г. Коломна МО

Отправлено 28 April 2008 - 14:11

Просмотр сообщенияrapucha (28.4.2008, 12:43) писал:

Хе. Когда перестал читаться нулевой сектор, или как оно там сейчас зовется, это не поможет.
В этом и проблема, отчасти по крайней мере--свою иформацию можно вполне помехоустйчиво закодировать, но системная информация носителя защищиена плохо. Избыточность может быть хоть 200%, а болванка просто не определяется приводом. Надежда остается, но количество головной боли сильно растет.

В этом плане ленточный архив лучше устроен. У него таблица размещения файлов может храниться-резервироваться отдельно. К тому же логическая структура полностью соответствует физической. У винчестера без проблем можно зарезервировать и FAT-MFT и таблицу разделов. А вот как резервировать-восстанававать сервоинформацию и маппинг логической структуры в физическую, неясно.

Кстати, применительно к оптическим носителям--надо бы присмотреться к файловой системе UDF. Есть подозрение, что там всякая "метаинформация" более разумно устроена.

Я дудмаю что Диск не определяется системой и сидюком самим - достаточно разные вещи. Если диск нашелся, но винда его не видит из за того, что начало похерилось, можно снять образ чем нибудь, и с ним поковыряться разными софтинами. Думаю толк будет. Хотя тут стоит и эксперименты провести.

а + болванко в том, что можно лекго и недорого сделат несколько копий на разных по производству носителях. И хранить их в разным местах.

А лента это по любому хорошо!! Только дорого. :-(

Сообщение отредактировал var-alex: 28 April 2008 - 14:12


#29 Aphrican

  • Пользователь
  • 69 сообщений

Отправлено 28 April 2008 - 17:49

Просмотр сообщенияrapucha (28.4.2008, 12:43) писал:

Хе. Когда перестал читаться нулевой сектор, или как оно там сейчас зовется, это не поможет.
Так в том вся и фишка, что если болванка НЕ ЛЕВАЯ, и ее принудительно не насиловали (держали на свету, в жаре, гвоздиком ковыряли), то вероятность повреждения нулевой дорожки близка к нулю.
Да и две копии - не цена вопроса для параноиков. :)

На форуме программы ICE ECC (если мне не изменяет склероз) был предложен метод борьбы и с этим, я не вчитывался, но суть в том, что контрольные коды рассчитываются на ISO-образ диска и хранятся в другом месте. Как они собирались получать образ с битого диска для восстановления я не помню. :)
Надо будет найти и почитать подробнее, не дай бог пригодится.

#30 Aphrican

  • Пользователь
  • 69 сообщений

Отправлено 28 April 2008 - 18:05

Просмотр сообщенияOm81 (28.4.2008, 12:49) писал:

RAID-1 на двух съемных винчестерах :) И в сейф..))
Счасливый человек!
Эх, не не сжигала вам Моэнерга RAID массивы, не сжигала...
И винты вам на пол не роняли... вместе с сейфом. :)





Количество пользователей, читающих эту тему: 1

0 пользователей, 1 гостей, 0 анонимных