Re: RAID6 array won't start

NeilBrown <neilb@xxxxxxx> · Sat, 12 Feb 2011 07:49:04 +1100

On Fri, 11 Feb 2011 11:48:41 -0500 Christian <cjs703@xxxxxxxxx> wrote:

> Hello,
> 
> I have a 10 disk RAID6 array.Â I had an issue with a molex connector
> that caused drives to drop from a 5in3 SATA backplane.Â There wasn't
> any activity occurring on the array during the time, so I think the
> filesystem should be in tact.Â The issue now is the event counts are
> out of sync, along with the state of each drive.
> 
> # mdadm -A /dev/md1 /dev/sde1 /dev/sdf1 /dev/sdg1 /dev/sdk1 /dev/sdl1
> /dev/sdm1 /dev/sdq1 /dev/sdr1 /dev/sds1 /dev/sdt1
> mdadm: /dev/md1 assembled from 8 drives - not enough to start the
> array while not clean - consider --force.
> 
> # cat /proc/mdstat
> Personalities : [raid6] [raid5] [raid4]
> md1 : inactive sdt1[1](S) sde1[9](S) sdl1[8](S) sdg1[7](S) sdf1[6](S)
> sdk1[5](S) sdq1[4](S) sds1[3](S) sdr1[2](S) sdm1[0](S)
> ÂÂÂÂÂ 19535134720 blocks
> 
> 
> # mdadm -Af /dev/md1 /dev/sde1 /dev/sdf1 /dev/sdg1 /dev/sdk1 /dev/sdl1
> /dev/sdm1 /dev/sdq1 /dev/sdr1 /dev/sds1 /dev/sdt1
> mdadm: failed to RUN_ARRAY /dev/md1: Input/output error

The array is already in a partially-assembled state.

mdadm -S /dev/md1

before trying to assemble again with -f.

NeilBrown

> 
> # cat /proc/mdstat
> Personalities : [raid6] [raid5] [raid4]
> md1 : inactive sdt1[1] sde1[9] sdl1[8] sdg1[7] sdf1[6] sdk1[5] sdq1[4] sdr1[2]
> ÂÂÂÂÂ 15628107776 blocks
> 
> I've read others having success with this but it's not accepting it.
> # echo "clean" > /sys/block/md1/md/array_state
> bash: echo: write error: Invalid argument
> 
> 
> # mdadm -E /dev/sde1 /dev/sdf1 /dev/sdg1 /dev/sdk1 /dev/sdl1 /dev/sdm1
> /dev/sdq1 /dev/sdr1 /dev/sds1 /dev/sdt1 | egrep Event
> ÂÂÂÂÂÂÂÂ Events : 147226
> ÂÂÂÂÂÂÂÂ Events : 147226
> ÂÂÂÂÂÂÂÂ Events : 147226
> ÂÂÂÂÂÂÂÂ Events : 147226
> ÂÂÂÂÂÂÂÂ Events : 147226
> ÂÂÂÂÂÂÂÂ Events : 147221
> ÂÂÂÂÂÂÂÂ Events : 147225
> ÂÂÂÂÂÂÂÂ Events : 147225
> ÂÂÂÂÂÂÂÂ Events : 147221
> ÂÂÂÂÂÂÂÂ Events : 147225
> 
> 
> # mdadm -E /dev/sde1 /dev/sdf1 /dev/sdg1 /dev/sdk1 /dev/sdl1 /dev/sdm1
> /dev/sdq1 /dev/sdr1 /dev/sds1 /dev/sdt1
> ÂÂÂÂÂÂÂÂÂ Magic : a92b4efc
> ÂÂÂÂÂÂÂ Version : 0.90.00
> ÂÂÂÂÂÂÂÂÂÂ UUID : 0959650a:8a397113:e0647a97:fc2066cc (local to host raid)
> Â Creation Time : Sat Sep 25 13:23:40 2010
> ÂÂÂÂ Raid Level : raid6
> Â Used Dev Size : 1953513472 (1863.02 GiB 2000.40 GB)
> ÂÂÂÂ Array Size : 15628107776 (14904.13 GiB 16003.18 GB)
> ÂÂ Raid Devices : 10
> Â Total Devices : 8
> Preferred Minor : 1
> 
> ÂÂÂ Update Time : Wed FebÂ 9 19:24:09 2011
> ÂÂÂÂÂÂÂÂÂ State : active
> ÂActive Devices : 8
> Working Devices : 8
> ÂFailed Devices : 0
> Â Spare Devices : 0
> ÂÂÂÂÂÂ Checksum : 27a7ead3 - correct
> ÂÂÂÂÂÂÂÂ Events : 147226
> 
> ÂÂÂÂÂÂÂÂ Layout : left-symmetric
> ÂÂÂÂ Chunk Size : 64K
> 
> ÂÂÂÂÂ NumberÂÂ MajorÂÂ MinorÂÂ RaidDevice State
> thisÂÂÂÂ 9ÂÂÂÂÂÂ 8ÂÂÂÂÂÂ 65ÂÂÂÂÂÂÂ 9ÂÂÂÂÂ active syncÂÂ /dev/sde1
> 
> ÂÂ 0ÂÂÂÂ 0ÂÂÂÂÂÂ 0ÂÂÂÂÂÂÂ 0ÂÂÂÂÂÂÂ 0ÂÂÂÂÂ removed
> ÂÂ 1ÂÂÂÂ 1ÂÂÂÂÂ 65ÂÂÂÂÂÂ 49ÂÂÂÂÂÂÂ 1ÂÂÂÂÂ active syncÂÂ /dev/sdt1
> ÂÂ 2ÂÂÂÂ 2ÂÂÂÂÂ 65ÂÂÂÂÂÂ 17ÂÂÂÂÂÂÂ 2ÂÂÂÂÂ active syncÂÂ /dev/sdr1
> ÂÂ 3ÂÂÂÂ 3ÂÂÂÂÂÂ 0ÂÂÂÂÂÂÂ 0ÂÂÂÂÂÂÂ 3ÂÂÂÂÂ faulty removed
> ÂÂ 4ÂÂÂÂ 4ÂÂÂÂÂ 65ÂÂÂÂÂÂÂ 1ÂÂÂÂÂÂÂ 4ÂÂÂÂÂ active syncÂÂ /dev/sdq1
> ÂÂ 5ÂÂÂÂ 5ÂÂÂÂÂÂ 8ÂÂÂÂÂ 161ÂÂÂÂÂÂÂ 5ÂÂÂÂÂ active syncÂÂ /dev/sdk1
> ÂÂ 6ÂÂÂÂ 6ÂÂÂÂÂÂ 8ÂÂÂÂÂÂ 81ÂÂÂÂÂÂÂ 6ÂÂÂÂÂ active syncÂÂ /dev/sdf1
> ÂÂ 7ÂÂÂÂ 7ÂÂÂÂÂÂ 8ÂÂÂÂÂÂ 97ÂÂÂÂÂÂÂ 7ÂÂÂÂÂ active syncÂÂ /dev/sdg1
> ÂÂ 8ÂÂÂÂ 8ÂÂÂÂÂÂ 8ÂÂÂÂÂ 177ÂÂÂÂÂÂÂ 8ÂÂÂÂÂ active syncÂÂ /dev/sdl1
> ÂÂ 9ÂÂÂÂ 9ÂÂÂÂÂÂ 8ÂÂÂÂÂÂ 65ÂÂÂÂÂÂÂ 9ÂÂÂÂÂ active syncÂÂ /dev/sde1
> /dev/sdf1:
> ÂÂÂÂÂÂÂÂÂ Magic : a92b4efc
> ÂÂÂÂÂÂÂ Version : 0.90.00
> ÂÂÂÂÂÂÂÂÂÂ UUID : 0959650a:8a397113:e0647a97:fc2066cc (local to host raid)
> Â Creation Time : Sat Sep 25 13:23:40 2010
> ÂÂÂÂ Raid Level : raid6
> Â Used Dev Size : 1953513472 (1863.02 GiB 2000.40 GB)
> ÂÂÂÂ Array Size : 15628107776 (14904.13 GiB 16003.18 GB)
> ÂÂ Raid Devices : 10
> Â Total Devices : 8
> Preferred Minor : 1
> 
> ÂÂÂ Update Time : Wed FebÂ 9 19:24:09 2011
> ÂÂÂÂÂÂÂÂÂ State : active
> ÂActive Devices : 8
> Working Devices : 8
> ÂFailed Devices : 0
> Â Spare Devices : 0
> ÂÂÂÂÂÂ Checksum : 27a7eadd - correct
> ÂÂÂÂÂÂÂÂ Events : 147226
> 
> ÂÂÂÂÂÂÂÂ Layout : left-symmetric
> ÂÂÂÂ Chunk Size : 64K
> 
> ÂÂÂÂÂ NumberÂÂ MajorÂÂ MinorÂÂ RaidDevice State
> thisÂÂÂÂ 6ÂÂÂÂÂÂ 8ÂÂÂÂÂÂ 81ÂÂÂÂÂÂÂ 6ÂÂÂÂÂ active syncÂÂ /dev/sdf1
> 
> ÂÂ 0ÂÂÂÂ 0ÂÂÂÂÂÂ 0ÂÂÂÂÂÂÂ 0ÂÂÂÂÂÂÂ 0ÂÂÂÂÂ removed
> ÂÂ 1ÂÂÂÂ 1ÂÂÂÂÂ 65ÂÂÂÂÂÂ 49ÂÂÂÂÂÂÂ 1ÂÂÂÂÂ active syncÂÂ /dev/sdt1
> ÂÂ 2ÂÂÂÂ 2ÂÂÂÂÂ 65ÂÂÂÂÂÂ 17ÂÂÂÂÂÂÂ 2ÂÂÂÂÂ active syncÂÂ /dev/sdr1
> ÂÂ 3ÂÂÂÂ 3ÂÂÂÂÂÂ 0ÂÂÂÂÂÂÂ 0ÂÂÂÂÂÂÂ 3ÂÂÂÂÂ faulty removed
> ÂÂ 4ÂÂÂÂ 4ÂÂÂÂÂ 65ÂÂÂÂÂÂÂ 1ÂÂÂÂÂÂÂ 4ÂÂÂÂÂ active syncÂÂ /dev/sdq1
> ÂÂ 5ÂÂÂÂ 5ÂÂÂÂÂÂ 8ÂÂÂÂÂ 161ÂÂÂÂÂÂÂ 5ÂÂÂÂÂ active syncÂÂ /dev/sdk1
> ÂÂ 6ÂÂÂÂ 6ÂÂÂÂÂÂ 8ÂÂÂÂÂÂ 81ÂÂÂÂÂÂÂ 6ÂÂÂÂÂ active syncÂÂ /dev/sdf1
> ÂÂ 7ÂÂÂÂ 7ÂÂÂÂÂÂ 8ÂÂÂÂÂÂ 97ÂÂÂÂÂÂÂ 7ÂÂÂÂÂ active syncÂÂ /dev/sdg1
> ÂÂ 8ÂÂÂÂ 8ÂÂÂÂÂÂ 8ÂÂÂÂÂ 177ÂÂÂÂÂÂÂ 8ÂÂÂÂÂ active syncÂÂ /dev/sdl1
> ÂÂ 9ÂÂÂÂ 9ÂÂÂÂÂÂ 8ÂÂÂÂÂÂ 65ÂÂÂÂÂÂÂ 9ÂÂÂÂÂ active syncÂÂ /dev/sde1
> /dev/sdg1:
> ÂÂÂÂÂÂÂÂÂ Magic : a92b4efc
> ÂÂÂÂÂÂÂ Version : 0.90.00
> ÂÂÂÂÂÂÂÂÂÂ UUID : 0959650a:8a397113:e0647a97:fc2066cc (local to host raid)
> Â Creation Time : Sat Sep 25 13:23:40 2010
> ÂÂÂÂ Raid Level : raid6
> Â Used Dev Size : 1953513472 (1863.02 GiB 2000.40 GB)
> ÂÂÂÂ Array Size : 15628107776 (14904.13 GiB 16003.18 GB)
> ÂÂ Raid Devices : 10
> Â Total Devices : 8
> Preferred Minor : 1
> 
> ÂÂÂ Update Time : Wed FebÂ 9 19:24:09 2011
> ÂÂÂÂÂÂÂÂÂ State : active
> ÂActive Devices : 8
> Working Devices : 8
> ÂFailed Devices : 0
> Â Spare Devices : 0
> ÂÂÂÂÂÂ Checksum : 27a7eaef - correct
> ÂÂÂÂÂÂÂÂ Events : 147226
> 
> ÂÂÂÂÂÂÂÂ Layout : left-symmetric
> ÂÂÂÂ Chunk Size : 64K
> 
> ÂÂÂÂÂ NumberÂÂ MajorÂÂ MinorÂÂ RaidDevice State
> thisÂÂÂÂ 7ÂÂÂÂÂÂ 8ÂÂÂÂÂÂ 97ÂÂÂÂÂÂÂ 7ÂÂÂÂÂ active syncÂÂ /dev/sdg1
> 
> ÂÂ 0ÂÂÂÂ 0ÂÂÂÂÂÂ 0ÂÂÂÂÂÂÂ 0ÂÂÂÂÂÂÂ 0ÂÂÂÂÂ removed
> ÂÂ 1ÂÂÂÂ 1ÂÂÂÂÂ 65ÂÂÂÂÂÂ 49ÂÂÂÂÂÂÂ 1ÂÂÂÂÂ active syncÂÂ /dev/sdt1
> ÂÂ 2ÂÂÂÂ 2ÂÂÂÂÂ 65ÂÂÂÂÂÂ 17ÂÂÂÂÂÂÂ 2ÂÂÂÂÂ active syncÂÂ /dev/sdr1
> ÂÂ 3ÂÂÂÂ 3ÂÂÂÂÂÂ 0ÂÂÂÂÂÂÂ 0ÂÂÂÂÂÂÂ 3ÂÂÂÂÂ faulty removed
> ÂÂ 4ÂÂÂÂ 4ÂÂÂÂÂ 65ÂÂÂÂÂÂÂ 1ÂÂÂÂÂÂÂ 4ÂÂÂÂÂ active syncÂÂ /dev/sdq1
> ÂÂ 5ÂÂÂÂ 5ÂÂÂÂÂÂ 8ÂÂÂÂÂ 161ÂÂÂÂÂÂÂ 5ÂÂÂÂÂ active syncÂÂ /dev/sdk1
> ÂÂ 6ÂÂÂÂ 6ÂÂÂÂÂÂ 8ÂÂÂÂÂÂ 81ÂÂÂÂÂÂÂ 6ÂÂÂÂÂ active syncÂÂ /dev/sdf1
> ÂÂ 7ÂÂÂÂ 7ÂÂÂÂÂÂ 8ÂÂÂÂÂÂ 97ÂÂÂÂÂÂÂ 7ÂÂÂÂÂ active syncÂÂ /dev/sdg1
> ÂÂ 8ÂÂÂÂ 8ÂÂÂÂÂÂ 8ÂÂÂÂÂ 177ÂÂÂÂÂÂÂ 8ÂÂÂÂÂ active syncÂÂ /dev/sdl1
> ÂÂ 9ÂÂÂÂ 9ÂÂÂÂÂÂ 8ÂÂÂÂÂÂ 65ÂÂÂÂÂÂÂ 9ÂÂÂÂÂ active syncÂÂ /dev/sde1
> /dev/sdk1:
> ÂÂÂÂÂÂÂÂÂ Magic : a92b4efc
> ÂÂÂÂÂÂÂ Version : 0.90.00
> ÂÂÂÂÂÂÂÂÂÂ UUID : 0959650a:8a397113:e0647a97:fc2066cc (local to host raid)
> Â Creation Time : Sat Sep 25 13:23:40 2010
> ÂÂÂÂ Raid Level : raid6
> Â Used Dev Size : 1953513472 (1863.02 GiB 2000.40 GB)
> ÂÂÂÂ Array Size : 15628107776 (14904.13 GiB 16003.18 GB)
> ÂÂ Raid Devices : 10
> Â Total Devices : 8
> Preferred Minor : 1
> 
> ÂÂÂ Update Time : Wed FebÂ 9 19:24:09 2011
> ÂÂÂÂÂÂÂÂÂ State : active
> ÂActive Devices : 8
> Working Devices : 8
> ÂFailed Devices : 0
> Â Spare Devices : 0
> ÂÂÂÂÂÂ Checksum : 27a7eb2b - correct
> ÂÂÂÂÂÂÂÂ Events : 147226
> 
> ÂÂÂÂÂÂÂÂ Layout : left-symmetric
> ÂÂÂÂ Chunk Size : 64K
> 
> ÂÂÂÂÂ NumberÂÂ MajorÂÂ MinorÂÂ RaidDevice State
> thisÂÂÂÂ 5ÂÂÂÂÂÂ 8ÂÂÂÂÂ 161ÂÂÂÂÂÂÂ 5ÂÂÂÂÂ active syncÂÂ /dev/sdk1
> 
> ÂÂ 0ÂÂÂÂ 0ÂÂÂÂÂÂ 0ÂÂÂÂÂÂÂ 0ÂÂÂÂÂÂÂ 0ÂÂÂÂÂ removed
> ÂÂ 1ÂÂÂÂ 1ÂÂÂÂÂ 65ÂÂÂÂÂÂ 49ÂÂÂÂÂÂÂ 1ÂÂÂÂÂ active syncÂÂ /dev/sdt1
> ÂÂ 2ÂÂÂÂ 2ÂÂÂÂÂ 65ÂÂÂÂÂÂ 17ÂÂÂÂÂÂÂ 2ÂÂÂÂÂ active syncÂÂ /dev/sdr1
> ÂÂ 3ÂÂÂÂ 3ÂÂÂÂÂÂ 0ÂÂÂÂÂÂÂ 0ÂÂÂÂÂÂÂ 3ÂÂÂÂÂ faulty removed
> ÂÂ 4ÂÂÂÂ 4ÂÂÂÂÂ 65ÂÂÂÂÂÂÂ 1ÂÂÂÂÂÂÂ 4ÂÂÂÂÂ active syncÂÂ /dev/sdq1
> ÂÂ 5ÂÂÂÂ 5ÂÂÂÂÂÂ 8ÂÂÂÂÂ 161ÂÂÂÂÂÂÂ 5ÂÂÂÂÂ active syncÂÂ /dev/sdk1
> ÂÂ 6ÂÂÂÂ 6ÂÂÂÂÂÂ 8ÂÂÂÂÂÂ 81ÂÂÂÂÂÂÂ 6ÂÂÂÂÂ active syncÂÂ /dev/sdf1
> ÂÂ 7ÂÂÂÂ 7ÂÂÂÂÂÂ 8ÂÂÂÂÂÂ 97ÂÂÂÂÂÂÂ 7ÂÂÂÂÂ active syncÂÂ /dev/sdg1
> ÂÂ 8ÂÂÂÂ 8ÂÂÂÂÂÂ 8ÂÂÂÂÂ 177ÂÂÂÂÂÂÂ 8ÂÂÂÂÂ active syncÂÂ /dev/sdl1
> ÂÂ 9ÂÂÂÂ 9ÂÂÂÂÂÂ 8ÂÂÂÂÂÂ 65ÂÂÂÂÂÂÂ 9ÂÂÂÂÂ active syncÂÂ /dev/sde1
> /dev/sdl1:
> ÂÂÂÂÂÂÂÂÂ Magic : a92b4efc
> ÂÂÂÂÂÂÂ Version : 0.90.00
> ÂÂÂÂÂÂÂÂÂÂ UUID : 0959650a:8a397113:e0647a97:fc2066cc (local to host raid)
> Â Creation Time : Sat Sep 25 13:23:40 2010
> ÂÂÂÂ Raid Level : raid6
> Â Used Dev Size : 1953513472 (1863.02 GiB 2000.40 GB)
> ÂÂÂÂ Array Size : 15628107776 (14904.13 GiB 16003.18 GB)
> ÂÂ Raid Devices : 10
> Â Total Devices : 8
> Preferred Minor : 1
> 
> ÂÂÂ Update Time : Wed FebÂ 9 19:24:09 2011
> ÂÂÂÂÂÂÂÂÂ State : active
> ÂActive Devices : 8
> Working Devices : 8
> ÂFailed Devices : 0
> Â Spare Devices : 0
> ÂÂÂÂÂÂ Checksum : 27a7eb41 - correct
> ÂÂÂÂÂÂÂÂ Events : 147226
> 
> ÂÂÂÂÂÂÂÂ Layout : left-symmetric
> ÂÂÂÂ Chunk Size : 64K
> 
> ÂÂÂÂÂ NumberÂÂ MajorÂÂ MinorÂÂ RaidDevice State
> thisÂÂÂÂ 8ÂÂÂÂÂÂ 8ÂÂÂÂÂ 177ÂÂÂÂÂÂÂ 8ÂÂÂÂÂ active syncÂÂ /dev/sdl1
> 
> ÂÂ 0ÂÂÂÂ 0ÂÂÂÂÂÂ 0ÂÂÂÂÂÂÂ 0ÂÂÂÂÂÂÂ 0ÂÂÂÂÂ removed
> ÂÂ 1ÂÂÂÂ 1ÂÂÂÂÂ 65ÂÂÂÂÂÂ 49ÂÂÂÂÂÂÂ 1ÂÂÂÂÂ active syncÂÂ /dev/sdt1
> ÂÂ 2ÂÂÂÂ 2ÂÂÂÂÂ 65ÂÂÂÂÂÂ 17ÂÂÂÂÂÂÂ 2ÂÂÂÂÂ active syncÂÂ /dev/sdr1
> ÂÂ 3ÂÂÂÂ 3ÂÂÂÂÂÂ 0ÂÂÂÂÂÂÂ 0ÂÂÂÂÂÂÂ 3ÂÂÂÂÂ faulty removed
> ÂÂ 4ÂÂÂÂ 4ÂÂÂÂÂ 65ÂÂÂÂÂÂÂ 1ÂÂÂÂÂÂÂ 4ÂÂÂÂÂ active syncÂÂ /dev/sdq1
> ÂÂ 5ÂÂÂÂ 5ÂÂÂÂÂÂ 8ÂÂÂÂÂ 161ÂÂÂÂÂÂÂ 5ÂÂÂÂÂ active syncÂÂ /dev/sdk1
> ÂÂ 6ÂÂÂÂ 6ÂÂÂÂÂÂ 8ÂÂÂÂÂÂ 81ÂÂÂÂÂÂÂ 6ÂÂÂÂÂ active syncÂÂ /dev/sdf1
> ÂÂ 7ÂÂÂÂ 7ÂÂÂÂÂÂ 8ÂÂÂÂÂÂ 97ÂÂÂÂÂÂÂ 7ÂÂÂÂÂ active syncÂÂ /dev/sdg1
> ÂÂ 8ÂÂÂÂ 8ÂÂÂÂÂÂ 8ÂÂÂÂÂ 177ÂÂÂÂÂÂÂ 8ÂÂÂÂÂ active syncÂÂ /dev/sdl1
> ÂÂ 9ÂÂÂÂ 9ÂÂÂÂÂÂ 8ÂÂÂÂÂÂ 65ÂÂÂÂÂÂÂ 9ÂÂÂÂÂ active syncÂÂ /dev/sde1
> /dev/sdm1:
> ÂÂÂÂÂÂÂÂÂ Magic : a92b4efc
> ÂÂÂÂÂÂÂ Version : 0.90.00
> ÂÂÂÂÂÂÂÂÂÂ UUID : 0959650a:8a397113:e0647a97:fc2066cc (local to host raid)
> Â Creation Time : Sat Sep 25 13:23:40 2010
> ÂÂÂÂ Raid Level : raid6
> Â Used Dev Size : 1953513472 (1863.02 GiB 2000.40 GB)
> ÂÂÂÂ Array Size : 15628107776 (14904.13 GiB 16003.18 GB)
> ÂÂ Raid Devices : 10
> Â Total Devices : 10
> Preferred Minor : 1
> 
> ÂÂÂ Update Time : Wed FebÂ 9 18:45:59 2011
> ÂÂÂÂÂÂÂÂÂ State : clean
> ÂActive Devices : 10
> Working Devices : 10
> ÂFailed Devices : 0
> Â Spare Devices : 0
> ÂÂÂÂÂÂ Checksum : 27aa228c - correct
> ÂÂÂÂÂÂÂÂ Events : 147221
> 
> ÂÂÂÂÂÂÂÂ Layout : left-symmetric
> ÂÂÂÂ Chunk Size : 64K
> 
> ÂÂÂÂÂ NumberÂÂ MajorÂÂ MinorÂÂ RaidDevice State
> thisÂÂÂÂ 0ÂÂÂÂÂÂ 8ÂÂÂÂÂ 193ÂÂÂÂÂÂÂ 0ÂÂÂÂÂ active syncÂÂ /dev/sdm1
> 
> ÂÂ 0ÂÂÂÂ 0ÂÂÂÂÂÂ 8ÂÂÂÂÂ 193ÂÂÂÂÂÂÂ 0ÂÂÂÂÂ active syncÂÂ /dev/sdm1
> ÂÂ 1ÂÂÂÂ 1ÂÂÂÂÂ 65ÂÂÂÂÂÂ 49ÂÂÂÂÂÂÂ 1ÂÂÂÂÂ active syncÂÂ /dev/sdt1
> ÂÂ 2ÂÂÂÂ 2ÂÂÂÂÂ 65ÂÂÂÂÂÂ 17ÂÂÂÂÂÂÂ 2ÂÂÂÂÂ active syncÂÂ /dev/sdr1
> ÂÂ 3ÂÂÂÂ 3ÂÂÂÂÂ 65ÂÂÂÂÂÂ 33ÂÂÂÂÂÂÂ 3ÂÂÂÂÂ active syncÂÂ /dev/sds1
> ÂÂ 4ÂÂÂÂ 4ÂÂÂÂÂ 65ÂÂÂÂÂÂÂ 1ÂÂÂÂÂÂÂ 4ÂÂÂÂÂ active syncÂÂ /dev/sdq1
> ÂÂ 5ÂÂÂÂ 5ÂÂÂÂÂÂ 8ÂÂÂÂÂ 161ÂÂÂÂÂÂÂ 5ÂÂÂÂÂ active syncÂÂ /dev/sdk1
> ÂÂ 6ÂÂÂÂ 6ÂÂÂÂÂÂ 8ÂÂÂÂÂÂ 81ÂÂÂÂÂÂÂ 6ÂÂÂÂÂ active syncÂÂ /dev/sdf1
> ÂÂ 7ÂÂÂÂ 7ÂÂÂÂÂÂ 8ÂÂÂÂÂÂ 97ÂÂÂÂÂÂÂ 7ÂÂÂÂÂ active syncÂÂ /dev/sdg1
> ÂÂ 8ÂÂÂÂ 8ÂÂÂÂÂÂ 8ÂÂÂÂÂ 177ÂÂÂÂÂÂÂ 8ÂÂÂÂÂ active syncÂÂ /dev/sdl1
> ÂÂ 9ÂÂÂÂ 9ÂÂÂÂÂÂ 8ÂÂÂÂÂÂ 65ÂÂÂÂÂÂÂ 9ÂÂÂÂÂ active syncÂÂ /dev/sde1
> /dev/sdq1:
> ÂÂÂÂÂÂÂÂÂ Magic : a92b4efc
> ÂÂÂÂÂÂÂ Version : 0.90.00
> ÂÂÂÂÂÂÂÂÂÂ UUID : 0959650a:8a397113:e0647a97:fc2066cc (local to host raid)
> Â Creation Time : Sat Sep 25 13:23:40 2010
> ÂÂÂÂ Raid Level : raid6
> Â Used Dev Size : 1953513472 (1863.02 GiB 2000.40 GB)
> ÂÂÂÂ Array Size : 15628107776 (14904.13 GiB 16003.18 GB)
> ÂÂ Raid Devices : 10
> Â Total Devices : 8
> Preferred Minor : 1
> 
> ÂÂÂ Update Time : Wed FebÂ 9 19:20:33 2011
> ÂÂÂÂÂÂÂÂÂ State : clean
> ÂActive Devices : 8
> Working Devices : 8
> ÂFailed Devices : 0
> Â Spare Devices : 0
> ÂÂÂÂÂÂ Checksum : 27aa2903 - correct
> ÂÂÂÂÂÂÂÂ Events : 147225
> 
> ÂÂÂÂÂÂÂÂ Layout : left-symmetric
> ÂÂÂÂ Chunk Size : 64K
> 
> ÂÂÂÂÂ NumberÂÂ MajorÂÂ MinorÂÂ RaidDevice State
> thisÂÂÂÂ 4ÂÂÂÂÂ 65ÂÂÂÂÂÂÂ 1ÂÂÂÂÂÂÂ 4ÂÂÂÂÂ active syncÂÂ /dev/sdq1
> 
> ÂÂ 0ÂÂÂÂ 0ÂÂÂÂÂÂ 0ÂÂÂÂÂÂÂ 0ÂÂÂÂÂÂÂ 0ÂÂÂÂÂ removed
> ÂÂ 1ÂÂÂÂ 1ÂÂÂÂÂ 65ÂÂÂÂÂÂ 49ÂÂÂÂÂÂÂ 1ÂÂÂÂÂ active syncÂÂ /dev/sdt1
> ÂÂ 2ÂÂÂÂ 2ÂÂÂÂÂ 65ÂÂÂÂÂÂ 17ÂÂÂÂÂÂÂ 2ÂÂÂÂÂ active syncÂÂ /dev/sdr1
> ÂÂ 3ÂÂÂÂ 3ÂÂÂÂÂÂ 0ÂÂÂÂÂÂÂ 0ÂÂÂÂÂÂÂ 3ÂÂÂÂÂ faulty removed
> ÂÂ 4ÂÂÂÂ 4ÂÂÂÂÂ 65ÂÂÂÂÂÂÂ 1ÂÂÂÂÂÂÂ 4ÂÂÂÂÂ active syncÂÂ /dev/sdq1
> ÂÂ 5ÂÂÂÂ 5ÂÂÂÂÂÂ 8ÂÂÂÂÂ 161ÂÂÂÂÂÂÂ 5ÂÂÂÂÂ active syncÂÂ /dev/sdk1
> ÂÂ 6ÂÂÂÂ 6ÂÂÂÂÂÂ 8ÂÂÂÂÂÂ 81ÂÂÂÂÂÂÂ 6ÂÂÂÂÂ active syncÂÂ /dev/sdf1
> ÂÂ 7ÂÂÂÂ 7ÂÂÂÂÂÂ 8ÂÂÂÂÂÂ 97ÂÂÂÂÂÂÂ 7ÂÂÂÂÂ active syncÂÂ /dev/sdg1
> ÂÂ 8ÂÂÂÂ 8ÂÂÂÂÂÂ 8ÂÂÂÂÂ 177ÂÂÂÂÂÂÂ 8ÂÂÂÂÂ active syncÂÂ /dev/sdl1
> ÂÂ 9ÂÂÂÂ 9ÂÂÂÂÂÂ 8ÂÂÂÂÂÂ 65ÂÂÂÂÂÂÂ 9ÂÂÂÂÂ active syncÂÂ /dev/sde1
> /dev/sdr1:
> ÂÂÂÂÂÂÂÂÂ Magic : a92b4efc
> ÂÂÂÂÂÂÂ Version : 0.90.00
> ÂÂÂÂÂÂÂÂÂÂ UUID : 0959650a:8a397113:e0647a97:fc2066cc (local to host raid)
> Â Creation Time : Sat Sep 25 13:23:40 2010
> ÂÂÂÂ Raid Level : raid6
> Â Used Dev Size : 1953513472 (1863.02 GiB 2000.40 GB)
> ÂÂÂÂ Array Size : 15628107776 (14904.13 GiB 16003.18 GB)
> ÂÂ Raid Devices : 10
> Â Total Devices : 8
> Preferred Minor : 1
> 
> ÂÂÂ Update Time : Wed FebÂ 9 19:20:33 2011
> ÂÂÂÂÂÂÂÂÂ State : clean
> ÂActive Devices : 8
> Working Devices : 8
> ÂFailed Devices : 0
> Â Spare Devices : 0
> ÂÂÂÂÂÂ Checksum : 27aa290f - correct
> ÂÂÂÂÂÂÂÂ Events : 147225
> 
> ÂÂÂÂÂÂÂÂ Layout : left-symmetric
> ÂÂÂÂ Chunk Size : 64K
> 
> ÂÂÂÂÂ NumberÂÂ MajorÂÂ MinorÂÂ RaidDevice State
> thisÂÂÂÂ 2ÂÂÂÂÂ 65ÂÂÂÂÂÂ 17ÂÂÂÂÂÂÂ 2ÂÂÂÂÂ active syncÂÂ /dev/sdr1
> 
> ÂÂ 0ÂÂÂÂ 0ÂÂÂÂÂÂ 0ÂÂÂÂÂÂÂ 0ÂÂÂÂÂÂÂ 0ÂÂÂÂÂ removed
> ÂÂ 1ÂÂÂÂ 1ÂÂÂÂÂ 65ÂÂÂÂÂÂ 49ÂÂÂÂÂÂÂ 1ÂÂÂÂÂ active syncÂÂ /dev/sdt1
> ÂÂ 2ÂÂÂÂ 2ÂÂÂÂÂ 65ÂÂÂÂÂÂ 17ÂÂÂÂÂÂÂ 2ÂÂÂÂÂ active syncÂÂ /dev/sdr1
> ÂÂ 3ÂÂÂÂ 3ÂÂÂÂÂÂ 0ÂÂÂÂÂÂÂ 0ÂÂÂÂÂÂÂ 3ÂÂÂÂÂ faulty removed
> ÂÂ 4ÂÂÂÂ 4ÂÂÂÂÂ 65ÂÂÂÂÂÂÂ 1ÂÂÂÂÂÂÂ 4ÂÂÂÂÂ active syncÂÂ /dev/sdq1
> ÂÂ 5ÂÂÂÂ 5ÂÂÂÂÂÂ 8ÂÂÂÂÂ 161ÂÂÂÂÂÂÂ 5ÂÂÂÂÂ active syncÂÂ /dev/sdk1
> ÂÂ 6ÂÂÂÂ 6ÂÂÂÂÂÂ 8ÂÂÂÂÂÂ 81ÂÂÂÂÂÂÂ 6ÂÂÂÂÂ active syncÂÂ /dev/sdf1
> ÂÂ 7ÂÂÂÂ 7ÂÂÂÂÂÂ 8ÂÂÂÂÂÂ 97ÂÂÂÂÂÂÂ 7ÂÂÂÂÂ active syncÂÂ /dev/sdg1
> ÂÂ 8ÂÂÂÂ 8ÂÂÂÂÂÂ 8ÂÂÂÂÂ 177ÂÂÂÂÂÂÂ 8ÂÂÂÂÂ active syncÂÂ /dev/sdl1
> ÂÂ 9ÂÂÂÂ 9ÂÂÂÂÂÂ 8ÂÂÂÂÂÂ 65ÂÂÂÂÂÂÂ 9ÂÂÂÂÂ active syncÂÂ /dev/sde1
> /dev/sds1:
> ÂÂÂÂÂÂÂÂÂ Magic : a92b4efc
> ÂÂÂÂÂÂÂ Version : 0.90.00
> ÂÂÂÂÂÂÂÂÂÂ UUID : 0959650a:8a397113:e0647a97:fc2066cc (local to host raid)
> Â Creation Time : Sat Sep 25 13:23:40 2010
> ÂÂÂÂ Raid Level : raid6
> Â Used Dev Size : 1953513472 (1863.02 GiB 2000.40 GB)
> ÂÂÂÂ Array Size : 15628107776 (14904.13 GiB 16003.18 GB)
> ÂÂ Raid Devices : 10
> Â Total Devices : 10
> Preferred Minor : 1
> 
> ÂÂÂ Update Time : Wed FebÂ 9 18:45:59 2011
> ÂÂÂÂÂÂÂÂÂ State : clean
> ÂActive Devices : 10
> Working Devices : 10
> ÂFailed Devices : 0
> Â Spare Devices : 0
> ÂÂÂÂÂÂ Checksum : 27aa222b - correct
> ÂÂÂÂÂÂÂÂ Events : 147221
> 
> ÂÂÂÂÂÂÂÂ Layout : left-symmetric
> ÂÂÂÂ Chunk Size : 64K
> 
> ÂÂÂÂÂ NumberÂÂ MajorÂÂ MinorÂÂ RaidDevice State
> thisÂÂÂÂ 3ÂÂÂÂÂ 65ÂÂÂÂÂÂ 33ÂÂÂÂÂÂÂ 3ÂÂÂÂÂ active syncÂÂ /dev/sds1
> 
> ÂÂ 0ÂÂÂÂ 0ÂÂÂÂÂÂ 8ÂÂÂÂÂ 193ÂÂÂÂÂÂÂ 0ÂÂÂÂÂ active syncÂÂ /dev/sdm1
> ÂÂ 1ÂÂÂÂ 1ÂÂÂÂÂ 65ÂÂÂÂÂÂ 49ÂÂÂÂÂÂÂ 1ÂÂÂÂÂ active syncÂÂ /dev/sdt1
> ÂÂ 2ÂÂÂÂ 2ÂÂÂÂÂ 65ÂÂÂÂÂÂ 17ÂÂÂÂÂÂÂ 2ÂÂÂÂÂ active syncÂÂ /dev/sdr1
> ÂÂ 3ÂÂÂÂ 3ÂÂÂÂÂ 65ÂÂÂÂÂÂ 33ÂÂÂÂÂÂÂ 3ÂÂÂÂÂ active syncÂÂ /dev/sds1
> ÂÂ 4ÂÂÂÂ 4ÂÂÂÂÂ 65ÂÂÂÂÂÂÂ 1ÂÂÂÂÂÂÂ 4ÂÂÂÂÂ active syncÂÂ /dev/sdq1
> ÂÂ 5ÂÂÂÂ 5ÂÂÂÂÂÂ 8ÂÂÂÂÂ 161ÂÂÂÂÂÂÂ 5ÂÂÂÂÂ active syncÂÂ /dev/sdk1
> ÂÂ 6ÂÂÂÂ 6ÂÂÂÂÂÂ 8ÂÂÂÂÂÂ 81ÂÂÂÂÂÂÂ 6ÂÂÂÂÂ active syncÂÂ /dev/sdf1
> ÂÂ 7ÂÂÂÂ 7ÂÂÂÂÂÂ 8ÂÂÂÂÂÂ 97ÂÂÂÂÂÂÂ 7ÂÂÂÂÂ active syncÂÂ /dev/sdg1
> ÂÂ 8ÂÂÂÂ 8ÂÂÂÂÂÂ 8ÂÂÂÂÂ 177ÂÂÂÂÂÂÂ 8ÂÂÂÂÂ active syncÂÂ /dev/sdl1
> ÂÂ 9ÂÂÂÂ 9ÂÂÂÂÂÂ 8ÂÂÂÂÂÂ 65ÂÂÂÂÂÂÂ 9ÂÂÂÂÂ active syncÂÂ /dev/sde1
> /dev/sdt1:
> ÂÂÂÂÂÂÂÂÂ Magic : a92b4efc
> ÂÂÂÂÂÂÂ Version : 0.90.00
> ÂÂÂÂÂÂÂÂÂÂ UUID : 0959650a:8a397113:e0647a97:fc2066cc (local to host raid)
> Â Creation Time : Sat Sep 25 13:23:40 2010
> ÂÂÂÂ Raid Level : raid6
> Â Used Dev Size : 1953513472 (1863.02 GiB 2000.40 GB)
> ÂÂÂÂ Array Size : 15628107776 (14904.13 GiB 16003.18 GB)
> ÂÂ Raid Devices : 10
> Â Total Devices : 8
> Preferred Minor : 1
> 
> ÂÂÂ Update Time : Wed FebÂ 9 19:20:33 2011
> ÂÂÂÂÂÂÂÂÂ State : clean
> ÂActive Devices : 8
> Working Devices : 8
> ÂFailed Devices : 0
> Â Spare Devices : 0
> ÂÂÂÂÂÂ Checksum : 27aa292d - correct
> ÂÂÂÂÂÂÂÂ Events : 147225
> 
> ÂÂÂÂÂÂÂÂ Layout : left-symmetric
> ÂÂÂÂ Chunk Size : 64K
> 
> ÂÂÂÂÂ NumberÂÂ MajorÂÂ MinorÂÂ RaidDevice State
> thisÂÂÂÂ 1ÂÂÂÂÂ 65ÂÂÂÂÂÂ 49ÂÂÂÂÂÂÂ 1ÂÂÂÂÂ active syncÂÂ /dev/sdt1
> 
> ÂÂ 0ÂÂÂÂ 0ÂÂÂÂÂÂ 0ÂÂÂÂÂÂÂ 0ÂÂÂÂÂÂÂ 0ÂÂÂÂÂ removed
> ÂÂ 1ÂÂÂÂ 1ÂÂÂÂÂ 65ÂÂÂÂÂÂ 49ÂÂÂÂÂÂÂ 1ÂÂÂÂÂ active syncÂÂ /dev/sdt1
> ÂÂ 2ÂÂÂÂ 2ÂÂÂÂÂ 65ÂÂÂÂÂÂ 17ÂÂÂÂÂÂÂ 2ÂÂÂÂÂ active syncÂÂ /dev/sdr1
> ÂÂ 3ÂÂÂÂ 3ÂÂÂÂÂÂ 0ÂÂÂÂÂÂÂ 0ÂÂÂÂÂÂÂ 3ÂÂÂÂÂ faulty removed
> ÂÂ 4ÂÂÂÂ 4ÂÂÂÂÂ 65ÂÂÂÂÂÂÂ 1ÂÂÂÂÂÂÂ 4ÂÂÂÂÂ active syncÂÂ /dev/sdq1
> ÂÂ 5ÂÂÂÂ 5ÂÂÂÂÂÂ 8ÂÂÂÂÂ 161ÂÂÂÂÂÂÂ 5ÂÂÂÂÂ active syncÂÂ /dev/sdk1
> ÂÂ 6ÂÂÂÂ 6ÂÂÂÂÂÂ 8ÂÂÂÂÂÂ 81ÂÂÂÂÂÂÂ 6ÂÂÂÂÂ active syncÂÂ /dev/sdf1
> ÂÂ 7ÂÂÂÂ 7ÂÂÂÂÂÂ 8ÂÂÂÂÂÂ 97ÂÂÂÂÂÂÂ 7ÂÂÂÂÂ active syncÂÂ /dev/sdg1
> ÂÂ 8ÂÂÂÂ 8ÂÂÂÂÂÂ 8ÂÂÂÂÂ 177ÂÂÂÂÂÂÂ 8ÂÂÂÂÂ active syncÂÂ /dev/sdl1
> ÂÂ 9ÂÂÂÂ 9ÂÂÂÂÂÂ 8ÂÂÂÂÂÂ 65ÂÂÂÂÂÂÂ 9ÂÂÂÂÂ active syncÂÂ /dev/sde1
> 
> 
> I've read others who have had success or failure using create to get
> things back in order again.Â This is what I came up with the drives
> listed in sequence from 0 to 9.Â The drives marked missing are the two
> that have event counts much lower than the rest.
> 
> # mdadm --create /dev/md1 --verbose --level=6 --raid-devices=10
> --chunk=64 missing /dev/sdt1 /dev/sdr1 missing /dev/sdq1 /dev/sdk1
> /dev/sdf1 /dev/sdg1 /dev/sdl1 /dev/sde1
> mdadm: layout defaults to left-symmetric
> mdadm: layout defaults to left-symmetric
> mdadm: layout defaults to left-symmetric
> mdadm: /dev/sdt1 appears to contain an ext2fs file system
> ÂÂÂ size=-1551761408KÂ mtime=Wed FebÂ 9 18:45:59 2011
> mdadm: /dev/sdt1 appears to be part of a raid array:
> ÂÂÂ level=raid6 devices=10 ctime=Sat Sep 25 13:23:40 2010
> mdadm: layout defaults to left-symmetric
> mdadm: /dev/sdr1 appears to be part of a raid array:
> ÂÂÂ level=raid6 devices=10 ctime=Sat Sep 25 13:23:40 2010
> mdadm: layout defaults to left-symmetric
> mdadm: /dev/sdq1 appears to be part of a raid array:
> ÂÂÂ level=raid6 devices=10 ctime=Sat Sep 25 13:23:40 2010
> mdadm: layout defaults to left-symmetric
> mdadm: /dev/sdk1 appears to be part of a raid array:
> ÂÂÂ level=raid6 devices=10 ctime=Sat Sep 25 13:23:40 2010
> mdadm: layout defaults to left-symmetric
> mdadm: /dev/sdf1 appears to be part of a raid array:
> ÂÂÂ level=raid6 devices=10 ctime=Sat Sep 25 13:23:40 2010
> mdadm: layout defaults to left-symmetric
> mdadm: /dev/sdg1 appears to be part of a raid array:
> ÂÂÂ level=raid6 devices=10 ctime=Sat Sep 25 13:23:40 2010
> mdadm: layout defaults to left-symmetric
> mdadm: /dev/sdl1 appears to be part of a raid array:
> ÂÂÂ level=raid6 devices=10 ctime=Sat Sep 25 13:23:40 2010
> mdadm: layout defaults to left-symmetric
> mdadm: /dev/sde1 appears to contain an ext2fs file system
> ÂÂÂ size=-591265728KÂ mtime=Mon Feb 14 13:17:27 2028
> mdadm: /dev/sde1 appears to be part of a raid array:
> ÂÂÂ level=raid6 devices=10 ctime=Sat Sep 25 13:23:40 2010
> mdadm: size set to 1953512384K
> Continue creating array? n
> 
> I haven't executed this yet though.
> 
> 
> Any help would be appreciated,
> Thanks
> NâÂÂÃÃrÂâyÃÃÅÃbÂXÂÂÃÂvÃ^â)ÃÂ{.nÃ+âÂÂÅ{ÂÂÂ_Å{ayÂÃâÃâÃ,jÂÂfÂÂÂhÅâÃzÂÂwÂÂÂÂÂÂj:+vâÂÅwÃjÃmÂÅÃÂÂâÃÃzZ+ÆÃÅÅÅÃÂj"_Ã!
--
To unsubscribe from this list: send the line "unsubscribe linux-raid" in
the body of a message to majordomo@xxxxxxxxxxxxxxx
More majordomo info at  http://vger.kernel.org/majordomo-info.html